forum.opennet.ru

Форум Разговоры, обсуждение новостей
Вариант для распечатки		Пред. тема \| След. тема
Режим отображения отдельной подветви беседы		[ Отслеживать ]

Оглавление

В репозитории Hugging Face выявлены вредоносные AI-модели, выполняющие код, opennews (?), 29-Фев-24, (0) [смотреть все]

Как неожиданно, исполняемый код на Python может быть вредоносным , Alladin (?), 11:04 , 29-Фев-24, (1) +12 //

S in python stands for security , Аноним (-), 11:58 , 29-Фев-24, (6) +7 //

аж хорошо , hehe (?), 15:57 , 29-Фев-24, (23) +2

Быстрее переписывай на раст, а то не успеешь , Аноним (24), 15:58 , 29-Фев-24, (24) +2
Исполняемый код на пистоне может быть НЕ вредоносным , Данные в так называемом поле Name (?), 09:35 , 01-Мрт-24, (44)

Не зря придумали safetensors , Аноним (2), 11:08 , 29-Фев-24, (2) +3 //

Зря Это растоподелка сделана исключительно из NIH-синдрома Лучший аналог safet, Аноним (31), 18:56 , 29-Фев-24, (31) +1 //

И на numpy npy в статье грязная клевета Там эта pickle опционален для произвол, Аноним (32), 19:02 , 29-Фев-24, (32) //

Ну так бэкдор тоже - опциональный Однако нелохов с такими опциями как раз и раз, Аноним (-), 02:39 , 01-Мрт-24, (42)

На ONNX там уточняю, https hiddenlayer com research weaponizing-machine-learn, Аноним (33), 19:12 , 29-Фев-24, (33) +2 //

Офигенно, WMF файлы переизобрели Привет из прошлого Ога, а что если формула row, Аноним (-), 02:42 , 01-Мрт-24, (43)

Кто бы мог подумать Непонятные многогигабайтные блобы с исполняемым кодом, в ко, Аноним (3), 11:14 , 29-Фев-24, (3) +12
Скрыто модератором, Аноним (-), 11:57 , 29-Фев-24, (5) +3
Ждем RABIDS, датакрэш и вот это вот все , Аноним (7), 12:02 , 29-Фев-24, (7)
Зачем усложнять Натренировать AI, чтоб он сам вредоносный код сочинял,прямо на п, анон (?), 12:27 , 29-Фев-24, (8) +1 //

В том и дело Существующие генеративные ml-модели выдают осмысленные результаты , Аноним (3), 12:31 , 29-Фев-24, (9) +1 //

Именно Я что - САМ что ли должен этой модели вредоносный код писать и на блюдеч, пох. (?), 13:17 , 29-Фев-24, (12) //

Сколько смотрю ваши ответы на опеннет, никак вас в покое Code of Conduct не оста, Аноним (14), 13:24 , 29-Фев-24, (14)

Ну вот поэтому я пишу CoC а не README md - в половине проектов его и вовсе нету , пох. (?), 13:29 , 29-Фев-24, (16)

Все эти СоС-и нужны потому что не работает классическая фраза дввайте уважать , Хру (?), 14:39 , 29-Фев-24, (18) +1

выничегонепонимаите Если есть CoC -это модно молодёжно залито смузями с гирос, 1 (??), 12:01 , 01-Мрт-24, (45)
Работают только агрессивные баны придурков Особенно тех, кто начинает разборки , Аноним (47), 13:11 , 01-Мрт-24, (47)

Ну и хорошо Дам тогда ИИ украсть у меня код зловреда, Другой анон (?), 13:28 , 29-Фев-24, (15)

ну хоть кто-то чувствует рыночек и понимает, что дурить инвесторов вечно не полу, 12yoexpert (ok), 12:54 , 29-Фев-24, (10) –1 //

чем выгоднее Намайненая сотняжка - лежит в маем кафэлечечке и она - моя А твоег, пох. (?), 13:19 , 29-Фев-24, (13) //

ну да, трояны ж через магазин удаляются или через панель управления, это все зна, 12yoexpert (ok), 15:42 , 29-Фев-24, (20) –1 //

какой магазин-шмагазин, reset reinstallты думаешь эти дурацкие модели кто-то на , пох. (?), 15:45 , 29-Фев-24, (21)

Хомячьё очень любит блобы из интернета запускать, у них можно поживиться кредитк, Аноним (3), 15:55 , 29-Фев-24, (22)

Чувак, я не знаю как там хомячье, но в твоем случае совершенно уверен - ты этот , пох. (?), 16:07 , 29-Фев-24, (25)

А вот тут ты неправ, видимо, даже хомячьё поумнее тебя будет В крайнем случае, , Аноним (3), 16:11 , 29-Фев-24, (26)

Ну поищи, поищи , пох. (?), 16:12 , 29-Фев-24, (27)

А мне зачем Это у тебя же сложности и зависть к хомячью, которое без проблем за, Аноним (3), 16:23 , 29-Фев-24, (28)

понятно Ну то есть как я и говорил - ты - не запустишь Безопастно От святой ве, пох. (?), 17:25 , 29-Фев-24, (29)

Сам сначала проецируешь, что тебе сложно и не найти пошаговые инструкции с карти, Аноним (3), 17:42 , 29-Фев-24, (30)

Также добавлю, что проблема с пиклами известна очень давно И нерешаема Потому , Аноним (34), 19:23 , 29-Фев-24, (34) +1 //

Узнаю портрет товарищей учёных Исследование проведено, результат описан, полезе, Аноним (41), 01:20 , 01-Мрт-24, (41) +2 //

Скрыто модератором, 1 (??), 12:05 , 01-Мрт-24, (46)

Также добавлю, что я начинал писать безопасный загрузчик пиклов pytorchа, это вп, Аноним (35), 19:29 , 29-Фев-24, (35) –1 //

вполне очевидно почему, потому что иксперт опеннет, Аноним (39), 23:41 , 29-Фев-24, (39) +1

Кто не в курсе ckpt может выполнять код на Python В отличии от safetenzor, кото, Аноним (37), 20:36 , 29-Фев-24, (37)
Умные люди Заставили голову включать сначала, потом уже решать делать ли И тол, Аноним (41), 01:18 , 01-Мрт-24, (40) //

Какие такие умные люди Картинки рисует уже AI, музыку скоро будет писать AI, от, Kuromi (ok), 16:19 , 01-Мрт-24, (49) //

Есть теория что люди будут первым видом на этой планете СОЗДАВШИМ потомков котор, Аноним (50), 06:28 , 02-Мрт-24, (50) //

С каких это пор ближайший общий предок Homo Sapiens и Tineola bisselliella перес, Аноним (51), 11:34 , 02-Мрт-24, (51)
Ну, с учетом того СКОЛЬКО всего интересно может уничтожить людей в 21-ом максим, Kuromi (ok), 16:45 , 02-Мрт-24, (52)

ц , Аноним (53), 14:34 , 03-Мрт-24, (53)

Это еще что, настоящие вредоносные модели решать человеков убивать , Kuromi (ok), 16:16 , 01-Мрт-24, (48)

Сообщения [Сортировка по времени | RSS]

2. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." +3 +/–

Сообщение от Аноним (2), 29-Фев-24, 11:08

Не зря придумали safetensors.

Ответить | Правка | Наверх | Cообщить модератору

31. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." +1 +/–

Сообщение от Аноним (31), 29-Фев-24, 18:56

Зря. Это растоподелка сделана исключительно из NIH-синдрома. Лучший аналог safetensors - это zip-архив со store-"сжатием", с npy-файлами и файлом с JSON-метаданными, и выравниванием zipalignом был бы лучше. Во-первых никаких новых форматов, всё уже давно известное и в софте поддерживаемое, во-вторых использовать всё равно можно mmapом, благодаря выравниваниюи нулевому сжатию. Для распространения можно использовать пожатый архив, который для локального использования с отображением можно перепаковать на store и выравнять, а если он маленький и будет в память целиком грузиться - то можно и не перепаковывать.
Это если ONNX не использовать, который содержит не просто веса, а целый граф, и просто и удобно импортируется в софт и редактируется. Я лично - за ONNX в качестве стандартного метода. Это самая удобная и полезная технология в ИИ для деплоя. Модели режутся на эмбеддинги просто и удобно в GUI-редакторе, там же и анализируется и реверсится их архитектура. Если нужно — компилятся в C код, который компилится уже в нативную библиотеку без всяких рантаймов.

Ответить | Правка | Наверх | Cообщить модератору

32. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." +/–

Сообщение от Аноним (32), 29-Фев-24, 19:02

И на numpy npy в статье грязная клевета. Там эта pickle опционален (для произвольных массивов, содержащих питоньи объекты, которые днём с огнём IRL не сыщещь) и её руками включать надо, потому что по-умолчанию там allow_pickle=False.

Ответить | Правка | Наверх | Cообщить модератору

42. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." +/–

Сообщение от Аноним (-), 01-Мрт-24, 02:39

> И на numpy npy в статье грязная клевета. Там эта pickle опционален
> (для произвольных массивов, содержащих питоньи объекты, которые днём с огнём IRL
> не сыщещь) и её руками включать надо, потому что по-умолчанию там
> allow_pickle=False.
Ну так бэкдор тоже - опциональный. Однако нелохов с такими опциями как раз и раздербанят. Питоняши же замечают проблему только когда уже по горло в г-не.

Ответить | Правка | Наверх | Cообщить модератору

33. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." +2 +/–

Сообщение от Аноним (33), 29-Фев-24, 19:12

На ONNX там (уточняю, https://hiddenlayer.com/research/weaponizing-machine-learnin... ) тоже клевета, но уже наполовину.
1. ONNX действительно позволяет исполнять свой код ... потому что кодирует вычислительный граф.
2. Но по-умолчанию все эти узлы безопасные, без ввода/вывода. Ну код там — это как чисто математическая формула в калькуляторе.
3. И вычислительный граф там не Тьюринг-полный. Если бы был Тьюринг-полный — можно было бы построить виртуальную машину и на ней попробовать атаковать железо через rowhammer. Но он не Тьюринг-полный!
4. ... если не используются кастомные расширения. Которые фреймворку ещё и реализовать надо, и каких не будет ни в одном адекватном софте для инференса.
Так что предъяву к ONNX можно сделать такую же, как и предъяву к скрипту в транзакции Биткоина (каждая транзакция биткоина содержит скрипт, который выполняется каждым честным узлом, о ужас!). То есть чисто формально код выполняется, но на деле пометка ONNX как опасного — это грязная манипуляция.

Ответить | Правка | К родителю #31 | Наверх | Cообщить модератору

43. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..." +/–

Сообщение от Аноним (-), 01-Мрт-24, 02:42

> 1. ONNX действительно позволяет исполнять свой код ... потому что кодирует
> вычислительный граф.
Офигенно, WMF файлы переизобрели. Привет из прошлого.
> 2. Но по-умолчанию все эти узлы безопасные, без ввода/вывода. Ну код там
> — это как чисто математическая формула в калькуляторе.
Ога, а что если формула rowhammer попробует? :)
> 4. ... если не используются кастомные расширения. Которые фреймворку ещё и реализовать
> надо, и каких не будет ни в одном адекватном софте для инференса.
TL;DR "это было давно и неправда!". А вот скрипт транзакции биткоина - вообще таки мало что может. По счатью. Не, он совсем не могет ничего вредного на системе юзера сделать. И даже rowhammer напряжется, из-за ценника на объем места в блоке и проч.

Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема

Партнёры:

Хостинг:

Закладки на сайте
Проследить за страницей

Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру

2. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..."	+3 +/–
Сообщение от Аноним (2), 29-Фев-24, 11:08
Не зря придумали safetensors.
Ответить \| Правка \| Наверх \| Cообщить модератору


	31. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..."	+1 +/–
	Сообщение от Аноним (31), 29-Фев-24, 18:56
	Зря. Это растоподелка сделана исключительно из NIH-синдрома. Лучший аналог safetensors - это zip-архив со store-"сжатием", с npy-файлами и файлом с JSON-метаданными, и выравниванием zipalignом был бы лучше. Во-первых никаких новых форматов, всё уже давно известное и в софте поддерживаемое, во-вторых использовать всё равно можно mmapом, благодаря выравниваниюи нулевому сжатию. Для распространения можно использовать пожатый архив, который для локального использования с отображением можно перепаковать на store и выравнять, а если он маленький и будет в память целиком грузиться - то можно и не перепаковывать. Это если ONNX не использовать, который содержит не просто веса, а целый граф, и просто и удобно импортируется в софт и редактируется. Я лично - за ONNX в качестве стандартного метода. Это самая удобная и полезная технология в ИИ для деплоя. Модели режутся на эмбеддинги просто и удобно в GUI-редакторе, там же и анализируется и реверсится их архитектура. Если нужно — компилятся в C код, который компилится уже в нативную библиотеку без всяких рантаймов.
	Ответить \| Правка \| Наверх \| Cообщить модератору


	32. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..."	+/–
	Сообщение от Аноним (32), 29-Фев-24, 19:02
	И на numpy npy в статье грязная клевета. Там эта pickle опционален (для произвольных массивов, содержащих питоньи объекты, которые днём с огнём IRL не сыщещь) и её руками включать надо, потому что по-умолчанию там allow_pickle=False.
	Ответить \| Правка \| Наверх \| Cообщить модератору


	42. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..."	+/–
	Сообщение от Аноним (-), 01-Мрт-24, 02:39
	> И на numpy npy в статье грязная клевета. Там эта pickle опционален > (для произвольных массивов, содержащих питоньи объекты, которые днём с огнём IRL > не сыщещь) и её руками включать надо, потому что по-умолчанию там > allow_pickle=False. Ну так бэкдор тоже - опциональный. Однако нелохов с такими опциями как раз и раздербанят. Питоняши же замечают проблему только когда уже по горло в г-не.
	Ответить \| Правка \| Наверх \| Cообщить модератору


	33. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..."	+2 +/–
	Сообщение от Аноним (33), 29-Фев-24, 19:12
	На ONNX там (уточняю, https://hiddenlayer.com/research/weaponizing-machine-learnin... ) тоже клевета, но уже наполовину. 1. ONNX действительно позволяет исполнять свой код ... потому что кодирует вычислительный граф. 2. Но по-умолчанию все эти узлы безопасные, без ввода/вывода. Ну код там — это как чисто математическая формула в калькуляторе. 3. И вычислительный граф там не Тьюринг-полный. Если бы был Тьюринг-полный — можно было бы построить виртуальную машину и на ней попробовать атаковать железо через rowhammer. Но он не Тьюринг-полный! 4. ... если не используются кастомные расширения. Которые фреймворку ещё и реализовать надо, и каких не будет ни в одном адекватном софте для инференса. Так что предъяву к ONNX можно сделать такую же, как и предъяву к скрипту в транзакции Биткоина (каждая транзакция биткоина содержит скрипт, который выполняется каждым честным узлом, о ужас!). То есть чисто формально код выполняется, но на деле пометка ONNX как опасного — это грязная манипуляция.
	Ответить \| Правка \| К родителю #31 \| Наверх \| Cообщить модератору


	43. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..."	+/–
	Сообщение от Аноним (-), 01-Мрт-24, 02:42
	> 1. ONNX действительно позволяет исполнять свой код ... потому что кодирует > вычислительный граф. Офигенно, WMF файлы переизобрели. Привет из прошлого. > 2. Но по-умолчанию все эти узлы безопасные, без ввода/вывода. Ну код там > — это как чисто математическая формула в калькуляторе. Ога, а что если формула rowhammer попробует? :) > 4. ... если не используются кастомные расширения. Которые фреймворку ещё и реализовать > надо, и каких не будет ни в одном адекватном софте для инференса. TL;DR "это было давно и неправда!". А вот скрипт транзакции биткоина - вообще таки мало что может. По счатью. Не, он совсем не могет ничего вредного на системе юзера сделать. И даже rowhammer напряжется, из-за ценника на объем места в блоке и проч.
	Ответить \| Правка \| Наверх \| Cообщить модератору