The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы [ Отслеживать ]

Оглавление

Атака на AI-системы ArtPrompt, позволяющая обойти защиту при помощи ASCII-картинок, opennews (ok), 03-Мрт-24, (0) [смотреть все]

Сообщения [Сортировка по времени | RSS]


75. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +/
Сообщение от Аноним (-), 04-Мрт-24, 05:11 
> Из-за цензуры все эти чаты итак бесполезны чуть менее чем полностью. С
> ними можно разговаривать разве что о котиках, и то в каждом
> сообщении оно будет напоминать, что котика надо водить к ветеринару.

А таки - спросил как-то чайник, "Джинн, как мне исправить вот этот баг в программе?!". Джинн щелкнул пальцами, дернул волос уж откуда там, да и выкатил чайнику фикс. Даже работает.

Ответить | Правка | К родителю #22 | Наверх | Cообщить модератору

81. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  –1 +/
Сообщение от пох. (?), 04-Мрт-24, 08:19 
угу, работает - теперь чайник стоит на газу, и булькает. А поскольку мозгов в нем теперь нет - то и не переживает о происшедшем.

С джинами - оно всегда так.

Ответить | Правка | Наверх | Cообщить модератору

90. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +/
Сообщение от Аноним (90), 04-Мрт-24, 10:17 
> А поскольку мозгов в нем

в тебе тоже, разве это тебя остановило?

Ответить | Правка | Наверх | Cообщить модератору

93. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +/
Сообщение от Аноним (-), 04-Мрт-24, 10:27 
> угу, работает - теперь чайник стоит на газу, и булькает. А поскольку
> мозгов в нем теперь нет - то и не переживает о происшедшем.

Ну реально чатгопоть взял и допер проинвертить условие, и все заверте... а без этого там бы и матерый кодер репу так то почесал что за нахрен. Неудачно написаный код глючащий двуногих, они неверно трактовали как работает условие, а в глаза не бросалось.

> С джинами - оно всегда так.

А таки - вот - могет. Конечно если попросить его что-то понавороченнее... ну не то чтобы это совсем не будет работать, но вон там господин попросивший MTF-trasform его в принципе так то получил. И он так-то даже работал. Только на...й он с O(N^2) чтоли кому уперся такой... :))

Ответить | Правка | К родителю #81 | Наверх | Cообщить модератору

105. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +/
Сообщение от пох. (?), 04-Мрт-24, 16:03 
> Ну реально чатгопоть взял и допер проинвертить условие, и все заверте... а

в коде а-ля if (0) { do_nothing(); } ?

> А таки - вот - могет. Конечно если попросить его что-то понавороченнее...

ну если у тебя есть доступ к четвертой версии (товарищмайор!) - можешь предложить ей поискать ошибку вот тут:
https://github.com/lizardfs/lizardfs/blob/master/src/common/...
(не спрашивай меня что за НЁХ - спроси у него. Не, я спрашивал у тех кто разбирается в вопросе - их таких, что характерно, в РФ осталось человек пять, но грамотно не перескажу)

У третьей можешь не спрашивать. Этот джын только в чайник превращает все что ни попадя. А казалось бы - задача как раз для джына. Бутылки на три, я столько не выпью.

> он так-то даже работал. Только на...й он с O(N^2) чтоли кому
> уперся такой... :))

клаудшмаре сойдеть.
Главное чтоб на правильном нескучном йезычке. Правда, и с этим тоже беда какая-то.  А еще один чайник действительно нафиг не упал.

Ответить | Правка | Наверх | Cообщить модератору

122. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +/
Сообщение от Аноним (-), 05-Мрт-24, 06:11 
>> Ну реально чатгопоть взял и допер проинвертить условие, и все заверте... а
> в коде а-ля if (0) { do_nothing(); } ?

Не, в здоровннном плюсатом проекте, где черт ногу объективно сломит. В чем EPIC WIN чайника и состоял. Ну вот чатгопоть походу в курсе антипаттерна "хреново написаное условие".

>> А таки - вот - могет. Конечно если попросить его что-то понавороченнее...
> ну если у тебя есть доступ к четвертой версии (товарищмайор!) - можешь
> предложить ей поискать ошибку вот тут:

Вон то не я делал а мой знакомый чайник. У него бесплатный доступ к чатгопу 3 по моему был, ну он и спросил его. Я прочекал, фикс на удивление нормальный :). А исходный код - ну вот неудачно написан, двуногие неверно условие трактуют. Кодер сам себя наел, талант! Но чатгопа не проведешь, инвертнул кривое условие и стало ЗБС. Так что в целом опция "спросить джинна как сделать ЗБС" может получить свой пойнт.

> У третьей можешь не спрашивать. Этот джын только в чайник превращает все
> что ни попадя.

А вон там - таки третий - вот - баг чайнику зарулил. Прочухав дурно написаное условие.

>> он так-то даже работал. Только на...й он с O(N^2) чтоли кому уперся такой... :))
> клаудшмаре сойдеть.

Что они будут с MTF с такой сложностью делать? Смотреть как последователи anna senpai накормят ЭТО большим блоком данных - и положат всю клаудфларь?

> Главное чтоб на правильном нескучном йезычке. Правда, и с этим тоже беда
> какая-то.  А еще один чайник действительно нафиг не упал.

Да вон там гугель выпендрился с wuffs - по своему забавная штука. Генерит как бы сишку, но как бы с гарантиями. И как бы не тормозно. Парсеры форматов. Но да, язычок описания свой, нескучный.

Ответить | Правка | Наверх | Cообщить модератору

126. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +/
Сообщение от нах. (?), 05-Мрт-24, 09:26 
> EPIC WIN чайника и состоял. Ну вот чатгопоть походу в курсе
> антипаттерна "хреново написаное условие".

и его не видно глазом и линтер молчит?

Что-то странно.

> Вон то не я делал а мой знакомый чайник. У него бесплатный
> доступ к чатгопу 3 по моему был, ну он и спросил

и теперь булькает на плите и его уже не переспросишь? Жаль.

Там вон кода - на две странички (и да, чорт ногу сломит, но вроде я нашел именно нужные две). Но я не понимаю этого кода (и не хочу) и не знаю как его чинить. Казалось бы, к кому надо вопрос... Но нет, джин глуховат, а двенадцатидюймовый теннис мне без надобности.

> Что они будут с MTF с такой сложностью делать? Смотреть как последователи

N^2 серверков автоматически подключат, на каждую операцию, оно ж микросервисное и зеро кость, ну, так говорят.

Потом спросят джина, как нам это оптимизировать. Он им даст пару ценных советов по разворачиванию новых цодов.

Ответить | Правка | Наверх | Cообщить модератору

128. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +/
Сообщение от Аноним (-), 05-Мрт-24, 10:24 
> и его не видно глазом и линтер молчит? Что-то странно.

Линтер что, волшебник? Он же не знает как правильно в этом случае. А кодер ступил и записал в виде когда про2#$шил инверсию условия как раз и на глаз не было очевидно. А вот AI явно ткнутый в блок кода с вопросом почему тут баг - нарулил условие правильно. Оно и заработало.

> и теперь булькает на плите и его уже не переспросишь? Жаль.

Он натурально чайник в програминге и страшно от всего того далек. Но - вот  - к моему удивлению загасил баг. Это было оригинально.

> Казалось бы, к кому надо вопрос... Но нет, джин глуховат, а
> двенадцатидюймовый теннис мне без надобности.

Ну не, там чайник все же немного понимал прогу и знал зачем оно ему. А тут в эту байду ни я ни он не вхожи и ниипем как это сетапить и ребилдить чтобы баг прочекать и вообще.

>> Что они будут с MTF с такой сложностью делать? Смотреть как последователи
> N^2 серверков автоматически подключат, на каждую операцию, оно ж микросервисное и зеро
> кость, ну, так говорят.

Они немного огуеют с такой эффективности алго. Так можно и клин в всей мегаструктуре поймать. Никогда не видел как ВСЕ серваки пачкой встали колом и резко занялись счетом - и пусть весь мир подождет! Выглядит прикольно. Ежели со стороны, и все это не у тебя...

> Потом спросят джина, как нам это оптимизировать. Он им даст пару ценных
> советов по разворачиванию новых цодов.

Ну так то тоже тема. Но серваки таскать джинн пока не умеет вроде. Впрочем, дождешься - джинн, забацай мне ДЦ! Будет сделано! (строители тихо матерятся и переезжают в зоопарк, экспонатами)

Ответить | Правка | Наверх | Cообщить модератору

129. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +/
Сообщение от нах. (?), 05-Мрт-24, 11:06 
> Линтер что, волшебник? Он же не знает как правильно в этом случае.

"здесь написана х-ня которая выглядит не так как работает" - он обычно знает.

или таки if (0)

> А тут в эту байду ни я ни он не вхожи и ниипем как это сетапить и ребилдить чтобы баг прочекать
> и вообще.

ты его найди сперва, я потом сам придумаю как проверять.
Кусок кода настолько изолированный, что вон аж весь в .h файл поместился

Но что он делает и где там могут быть ошибки - а вот задача как раз для робота. Но нет.


> Никогда не видел как ВСЕ серваки пачкой встали колом и резко занялись счетом

любой аи тебе скажет что это типичный случай нехватки вычислительных ресурсов и вот тебе команды для кластера чтоб их добавить.
А таскать кожанные мешки, конечно, будут. Это как с теслой получится.

Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру