Вариант для распечатки |
Пред. тема | След. тема | ||
Форум Разговоры, обсуждение новостей | |||
---|---|---|---|
Изначальное сообщение | [ Отслеживать ] |
"В репозитории Hugging Face выявлены вредоносные AI-модели, выполняющие код" | +/– | |
Сообщение от opennews (?), 29-Фев-24, 11:04 | ||
Исследователи из компании JFrog выявили в репозитории Hugging Face вредоносные модели машинного обучения, установка которых может привести к выполнению кода атакующего для получения контроля за системой пользователя. Проблема вызвана тем, что некоторые форматы распространения моделей допускают встраивание исполняемого кода, например, модели, использующие формат "pickle", могут включать сериализированные объекты на языке Python, а также код, выполняемый при загрузке файла, а модели Tensorflow Keras могут исполнять код через Lambda Layer... | ||
Ответить | Правка | Cообщить модератору |
Оглавление |
Сообщения | [Сортировка по времени | RSS] |
1. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +12 +/– | |
Сообщение от Alladin (?), 29-Фев-24, 11:04 | ||
Как неожиданно, исполняемый код на Python может быть вредоносным! | ||
Ответить | Правка | Наверх | Cообщить модератору |
6. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +7 +/– | |
Сообщение от Аноним (-), 29-Фев-24, 11:58 | ||
> Как неожиданно, исполняемый код на Python может быть вредоносным! | ||
Ответить | Правка | Наверх | Cообщить модератору |
23. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +2 +/– | |
Сообщение от hehe (?), 29-Фев-24, 15:57 | ||
аж хорошо) | ||
Ответить | Правка | Наверх | Cообщить модератору |
24. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +2 +/– | |
Сообщение от Аноним (24), 29-Фев-24, 15:58 | ||
Быстрее переписывай на раст, а то не успеешь! | ||
Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору |
44. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от Данные в так называемом поле Name (?), 01-Мрт-24, 09:35 | ||
Исполняемый код на пистоне может быть НЕ вредоносным?! | ||
Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору |
2. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +3 +/– | |
Сообщение от Аноним (2), 29-Фев-24, 11:08 | ||
Не зря придумали safetensors. | ||
Ответить | Правка | Наверх | Cообщить модератору |
31. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +1 +/– | |
Сообщение от Аноним (31), 29-Фев-24, 18:56 | ||
Зря. Это растоподелка сделана исключительно из NIH-синдрома. Лучший аналог safetensors - это zip-архив со store-"сжатием", с npy-файлами и файлом с JSON-метаданными, и выравниванием zipalignом был бы лучше. Во-первых никаких новых форматов, всё уже давно известное и в софте поддерживаемое, во-вторых использовать всё равно можно mmapом, благодаря выравниваниюи нулевому сжатию. Для распространения можно использовать пожатый архив, который для локального использования с отображением можно перепаковать на store и выравнять, а если он маленький и будет в память целиком грузиться - то можно и не перепаковывать. | ||
Ответить | Правка | Наверх | Cообщить модератору |
32. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от Аноним (32), 29-Фев-24, 19:02 | ||
И на numpy npy в статье грязная клевета. Там эта pickle опционален (для произвольных массивов, содержащих питоньи объекты, которые днём с огнём IRL не сыщещь) и её руками включать надо, потому что по-умолчанию там allow_pickle=False. | ||
Ответить | Правка | Наверх | Cообщить модератору |
42. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от Аноним (-), 01-Мрт-24, 02:39 | ||
> И на numpy npy в статье грязная клевета. Там эта pickle опционален | ||
Ответить | Правка | Наверх | Cообщить модератору |
33. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +2 +/– | |
Сообщение от Аноним (33), 29-Фев-24, 19:12 | ||
На ONNX там (уточняю, https://hiddenlayer.com/research/weaponizing-machine-learnin... ) тоже клевета, но уже наполовину. | ||
Ответить | Правка | К родителю #31 | Наверх | Cообщить модератору |
43. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от Аноним (-), 01-Мрт-24, 02:42 | ||
> 1. ONNX действительно позволяет исполнять свой код ... потому что кодирует | ||
Ответить | Правка | Наверх | Cообщить модератору |
3. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +12 +/– | |
Сообщение от Аноним (3), 29-Фев-24, 11:14 | ||
Кто бы мог подумать. Непонятные многогигабайтные блобы с исполняемым кодом, в которые никто не смотрит, могут содержать малварь. Удивительно. | ||
Ответить | Правка | Наверх | Cообщить модератору |
5. Скрыто модератором | +3 +/– | |
Сообщение от Аноним (-), 29-Фев-24, 11:57 | ||
Ответить | Правка | Наверх | Cообщить модератору |
7. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от Аноним (7), 29-Фев-24, 12:02 | ||
Ждем RABIDS, датакрэш и вот это вот все. | ||
Ответить | Правка | Наверх | Cообщить модератору |
8. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +1 +/– | |
Сообщение от анон (?), 29-Фев-24, 12:27 | ||
Зачем усложнять? | ||
Ответить | Правка | Наверх | Cообщить модератору |
9. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +1 +/– | |
Сообщение от Аноним (3), 29-Фев-24, 12:31 | ||
В том и дело. Существующие генеративные ml-модели выдают осмысленные результаты только когда они могут украсть существующее, уже кому-то принадлежащее. Они не создают новое. | ||
Ответить | Правка | Наверх | Cообщить модератору |
12. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от пох. (?), 29-Фев-24, 13:17 | ||
Именно. Я что - САМ что ли должен этой модели вредоносный код писать и на блюдечке скармливать?! | ||
Ответить | Правка | Наверх | Cообщить модератору |
14. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от Аноним (14), 29-Фев-24, 13:24 | ||
> CoC.md | ||
Ответить | Правка | Наверх | Cообщить модератору |
16. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от пох. (?), 29-Фев-24, 13:29 | ||
Ну вот поэтому я пишу CoC а не README.md - в половине проектов его и вовсе нету. | ||
Ответить | Правка | Наверх | Cообщить модератору |
18. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +1 +/– | |
Сообщение от Хру (?), 29-Фев-24, 14:39 | ||
Все эти СоС-и нужны потому что не работает классическая фраза: "дввайте уважать друг друга, уроды е###ые!" :) | ||
Ответить | Правка | Наверх | Cообщить модератору |
45. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от 1 (??), 01-Мрт-24, 12:01 | ||
выничегонепонимаите !!! | ||
Ответить | Правка | Наверх | Cообщить модератору |
47. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от Аноним (47), 01-Мрт-24, 13:11 | ||
Работают только агрессивные баны придурков. Особенно тех, кто начинает разборки "это нарушение CoC — нет, ты сам нарушил!", и наличие CoC как раз такие разборки провоцирует. | ||
Ответить | Правка | К родителю #18 | Наверх | Cообщить модератору |
15. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от Другой анон (?), 29-Фев-24, 13:28 | ||
Ну и хорошо. Дам тогда ИИ "украсть" у меня код зловреда | ||
Ответить | Правка | К родителю #9 | Наверх | Cообщить модератору |
10. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | –1 +/– | |
Сообщение от 12yoexpert (ok), 29-Фев-24, 12:54 | ||
ну хоть кто-то чувствует рыночек и понимает, что дурить инвесторов вечно не получится, хайп генеративных моделей спадает, а бабки делать надо. вот и делают, что могут. затроянить хост гораздо выгоднее сиюминутного майнинга | ||
Ответить | Правка | Наверх | Cообщить модератору |
13. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от пох. (?), 29-Фев-24, 13:19 | ||
> делают, что могут. затроянить хост гораздо выгоднее сиюминутного майнинга | ||
Ответить | Правка | Наверх | Cообщить модератору |
20. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | –1 +/– | |
Сообщение от 12yoexpert (ok), 29-Фев-24, 15:42 | ||
ну да, трояны ж через магазин удаляются или через панель управления, это все знать | ||
Ответить | Правка | Наверх | Cообщить модератору |
21. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от пох. (?), 29-Фев-24, 15:45 | ||
> ну да, трояны ж через магазин удаляются или через панель управления | ||
Ответить | Правка | Наверх | Cообщить модератору |
22. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от Аноним (3), 29-Фев-24, 15:55 | ||
Хомячьё очень любит блобы из интернета запускать, у них можно поживиться кредитками и криптой. Разрабы тоже, с этих можно вытряхнуть токенов для каких-нибудь облаков, а то и популярный проект угнать. | ||
Ответить | Правка | Наверх | Cообщить модератору |
25. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от пох. (?), 29-Фев-24, 16:07 | ||
Чувак, я не знаю как там хомячье, но в твоем случае совершенно уверен - ты этот блоб из интернета - не запустишь. | ||
Ответить | Правка | Наверх | Cообщить модератору |
26. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от Аноним (3), 29-Фев-24, 16:11 | ||
А вот тут ты неправ, видимо, даже хомячьё поумнее тебя будет. В крайнем случае, можно найти инструкции по использованию, они буквально пошаговые. | ||
Ответить | Правка | Наверх | Cообщить модератору |
27. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от пох. (?), 29-Фев-24, 16:12 | ||
Ну поищи, поищи. | ||
Ответить | Правка | Наверх | Cообщить модератору |
28. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от Аноним (3), 29-Фев-24, 16:23 | ||
> Ну поищи, поищи. | ||
Ответить | Правка | Наверх | Cообщить модератору |
29. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от пох. (?), 29-Фев-24, 17:25 | ||
> А мне зачем? | ||
Ответить | Правка | Наверх | Cообщить модератору |
30. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от Аноним (3), 29-Фев-24, 17:42 | ||
Сам сначала проецируешь, что тебе сложно и не найти пошаговые инструкции с картинками для умственно отсталых, потом мне зачем-то предлагаешь их искать. У тебя всё хорошо? Ведь я же из лучших побуждений, нельзя быть таким ограниченным, как ты. | ||
Ответить | Правка | Наверх | Cообщить модератору |
34. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +1 +/– | |
Сообщение от Аноним (34), 29-Фев-24, 19:23 | ||
Также добавлю, что проблема с пиклами известна очень давно. И нерешаема. Потому что проблема не с пиклами, а с ЧСВ программистов. | ||
Ответить | Правка | Наверх | Cообщить модератору |
41. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +2 +/– | |
Сообщение от Аноним (41), 01-Мрт-24, 01:20 | ||
Узнаю портрет товарищей учёных. Исследование проведено, результат описан, полезен, объяснён. | ||
Ответить | Правка | Наверх | Cообщить модератору |
46. Скрыто модератором | +/– | |
Сообщение от 1 (??), 01-Мрт-24, 12:05 | ||
Ответить | Правка | Наверх | Cообщить модератору |
35. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | –1 +/– | |
Сообщение от Аноним (35), 29-Фев-24, 19:29 | ||
Также добавлю, что я начинал писать безопасный загрузчик пиклов pytorchа, это вполне реализуемо, но почему-то не доделал его. Главное из пикла сделать AST, и обходить уже его, проверяя все операции. | ||
Ответить | Правка | Наверх | Cообщить модератору |
39. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +1 +/– | |
Сообщение от Аноним (39), 29-Фев-24, 23:41 | ||
> но почему-то не доделал его | ||
Ответить | Правка | Наверх | Cообщить модератору |
37. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от Аноним (37), 29-Фев-24, 20:36 | ||
Кто не в курсе ckpt может выполнять код на Python. В отличии от safetenzor, который не может. | ||
Ответить | Правка | Наверх | Cообщить модератору |
40. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от Аноним (41), 01-Мрт-24, 01:18 | ||
> помечает модели опасными, не блокируя к ним доступ | ||
Ответить | Правка | Наверх | Cообщить модератору |
49. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от Kuromi (ok), 01-Мрт-24, 16:19 | ||
Какие такие умные люди? Картинки рисует уже AI, музыку скоро будет писать AI, отзывы на сайтах проверяет AI и так далее. Очень скоро оценивать вредоносность моделей будет другая модель. | ||
Ответить | Правка | Наверх | Cообщить модератору |
50. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от Аноним (50), 02-Мрт-24, 06:28 | ||
> Прям удивительно как плавно человечество переходит в финал историй в духе "боролись | ||
Ответить | Правка | Наверх | Cообщить модератору |
51. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от Аноним (51), 02-Мрт-24, 11:34 | ||
С каких это пор ближайший общий предок Homo Sapiens и Tineola bisselliella перестал быть биологическим видом? Ведь создавать можно не только при помощи рук и ума... | ||
Ответить | Правка | Наверх | Cообщить модератору |
52. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от Kuromi (ok), 02-Мрт-24, 16:45 | ||
>> Прям удивительно как плавно человечество переходит в финал историй в духе "боролись | ||
Ответить | Правка | К родителю #50 | Наверх | Cообщить модератору |
53. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от Аноним (53), 03-Мрт-24, 14:34 | ||
>угроза ядерной войны | ||
Ответить | Правка | Наверх | Cообщить модератору |
48. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." | +/– | |
Сообщение от Kuromi (ok), 01-Мрт-24, 16:16 | ||
Это еще что, настоящие вредоносные модели решать человеков убивать. | ||
Ответить | Правка | Наверх | Cообщить модератору |
Архив | Удалить |
Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема |
Закладки на сайте Проследить за страницей |
Created 1996-2024 by Maxim Chirkov Добавить, Поддержать, Вебмастеру |