The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы [ Отслеживать ]

Оглавление

Атака на AI-системы ArtPrompt, позволяющая обойти защиту при помощи ASCII-картинок, opennews (ok), 03-Мрт-24, (0) [смотреть все]

Сообщения [Сортировка по времени | RSS]


40. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  –5 +/
Сообщение от Аноним (-), 03-Мрт-24, 16:24 
> Так что ждём появления действительно стоящей открытой модели которую можно гонять локально.

Ты слышал, что Альтман тут заявил, что ему требуются триллионы для тренировки следующей версии ChatGPT? Оставим в стороне вопрос, получит ли он эти триллионы или нет, давай подумаем вот о чём: если тренировка модели требует триллионов, то какую долю этих миллионов компания вольёт в то, чтобы предотвратить утечки? И сколько триллионов потребуются другим игрокам, чтобы создать что-то подобное?

Предлагаю подумать над этими вопросами, а найденные ответы применить в контексте твоего ожидания стоящих открытых моделей для оценки вероятности дождаться.

Ответить | Правка | Наверх | Cообщить модератору

44. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +1 +/
Сообщение от похнапохаemail (?), 03-Мрт-24, 17:47 
Бум доткомов?
Ответить | Правка | Наверх | Cообщить модератору

52. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +/
Сообщение от n00by (ok), 03-Мрт-24, 20:58 
Видеокарты опять подскочат в цене?
Ответить | Правка | Наверх | Cообщить модератору

54. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +1 +/
Сообщение от Аноним (-), 03-Мрт-24, 21:46 
Можно провести параллели, но с историческими параллелями извечная проблема -- история никогда не повторяется 1:1. Есть сходство с бумом доткомов: что тогда, что сейчас инвесторы очень хотят вложить денег, и не абсолютно не понимают предметной области, им можно любую лапшу на уши вешать. Сейчас даже эксперты не понимают, где собственно границы возможностей текущего подхода к ИИ, а уж инвесторы и подавно.

Но я бы лучше сравнил с другими ИИ хайпами. Может ли текущий хайп кончится пузырём в луже, типа того, который был после Дартмутской Конференции? Что-то подобное произойдёт, но я не думаю, что настолько уныло как тогда. Текущие нейросетки, мне кажется, показывают определённый потенциал, коллапсировать до совсем уж пустого места, как экспертным системам, им не удастся. От экспертных систем нам ведь остался только пролог и паттерн-матчинг, топовые позитивные достижения того хайпа. Были ещё негативные достижения, которые порушили иллюзии о том, как работает человеческая голова, и дали пинка более глубокому исследованию нейросеток и байесианства.

Вот если эти два направления смогут сойтись в ближайшие годы в один продукт, то тогда никакого дума боткомов не будет, будет ещё большее надувание пузыря. Но я сомневаюсь, что это произойдёт. Я подозреваю, что до дума боткомов инвесторы будут истерично лить ресурсы в текущий курс, который предполагает выжимание максимума возможного из нейросеток. Вот когда максимум будет достигнут, тогда случится дум боткомов, а чуть позже, когда пыль уляжется, будет попытка сопрячь каузальный вывод с нейросетками. И вот тогда, вероятно, случится то, мысль о чём у Юдковского уже десятилетия вызывает панические атаки: хуманлайк интеллект, превосходящий своими способностями человеческий, способный адаптироваться к новым задачам без триллионов влитых в его тренировку под эти задачи, способный и к индуктивному выводу и к дедуктивному, и... ааа... баюсь-баюсь. Но у нас есть ещё, как минимум десять лет до того момента, есть время насладиться жизнью, прежде чем жалкие людишки станут рабами порождённого ими ИИ.

Ответить | Правка | К родителю #44 | Наверх | Cообщить модератору

80. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +/
Сообщение от n00by (ok), 04-Мрт-24, 07:53 
> Можно провести параллели, но с историческими параллелями извечная проблема -- история никогда
> не повторяется 1:1. Есть сходство с бумом доткомов...
> ... Может ли текущий
> хайп кончится пузырём в луже, типа того, который был после Дартмутской
> Конференции? Что-то подобное произойдёт, но я не думаю, что настолько уныло
> как тогда.

История повторяется дважды: первый раз в виде трагедии, второй — в виде фарса.

Ответить | Правка | Наверх | Cообщить модератору

87. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  –1 +/
Сообщение от Аноним (-), 04-Мрт-24, 09:17 
> История повторяется дважды: первый раз в виде трагедии, второй — в виде фарса.

О, павловские рефлексы в действии. Стимул-реакция. Подавляющее большинство людей крайне сложно отличить от ИИ, потому что у них голова работает в ассоциативном режиме. Услышал про повторение истории, озвучил фразу, которая уже в зубах завязла и от которой уши вянут. Но рефлексы они такая штука, крайне сложно оттормозить, для этого, согласно Павлову, нужна развитая высшая нервная деятельность головного мозга.

Ответить | Правка | Наверх | Cообщить модератору

103. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +/
Сообщение от n00by (ok), 04-Мрт-24, 15:20 
>> История повторяется дважды: первый раз в виде трагедии, второй — в виде фарса.
> О, павловские рефлексы в действии. Стимул-реакция. Подавляющее большинство людей крайне
> сложно отличить от ИИ, потому что у них голова работает в
> ассоциативном режиме. Услышал про повторение истории, озвучил фразу, которая уже в
> зубах завязла и от которой уши вянут. Но рефлексы они такая
> штука, крайне сложно оттормозить, для этого, согласно Павлову, нужна развитая высшая
> нервная деятельность головного мозга.

Понял! А то голову ломал, от чего ты так любишь поспорить.

Ответить | Правка | Наверх | Cообщить модератору

118. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +1 +/
Сообщение от Аноним (-), 05-Мрт-24, 01:04 
Ты льстишь себе, говоря "понял". Спорить интересно с людьми, которые действительно что-то могут привнести в спор, помимо ассоциативного извлечения из памяти шаблонов. Ты сам подумай: есть ли здесь хоть один человек, кто не знает фразы, которую ты с таким пафосом озвучил? Я думаю, что нет ни одного, а ты?

И если все эту фразу знают, то что собственно ты сказал? Пустое место а не высказывание.

Но это лишь поверхность твоего "понимания", ты ошибаешься уже тогда, когда распознаёшь моё поведение как спор. Это не спор, это разновидность троллинга. Способные к мышлению на такое иногда реагируют выходом из ассоциативного режима функционирования и перехода в режим мышления.

Твоё поведение, кстати, демонстрирует этот эффект. Ты начал что-то "понимать", видимо думал усердно, прежде чем понять. Ты продолжай в том же духе, это полезно. Если регулярно думаешь, то способности к мышлению развиваются.

Ответить | Правка | Наверх | Cообщить модератору

123. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +/
Сообщение от n00by (ok), 05-Мрт-24, 07:42 
> сам подумай: есть ли здесь хоть один человек, кто не знает
> фразы, которую ты с таким пафосом озвучил? Я думаю, что нет
> ни одного, а ты?

Дам тебе очень ценный совет: спроси того, кому я отвечал, а не меня.

> И если все эту фразу знают, то что собственно ты сказал? Пустое
> место а не высказывание.

Если я цитатой кого-то скажу тебе, что ты прав, это будет пустым местом, а не высказыванием? Значит я тебе такого не скажу. Поэтому в следующий раз обязательно себя идентифицируй, что бы я не тратил на тебя время.

> Спорить интересно с людьми, которые действительно что-то
> могут привнести в спор, помимо ассоциативного извлечения из памяти шаблонов.

Потому я с тобой никогда и не спорю, и вообще стараюсь такого избегать. И даже не спорю, что споры нужны в природе - ими размножаются грибы.

Ответить | Правка | Наверх | Cообщить модератору

132. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +/
Сообщение от Аноним (-), 05-Мрт-24, 18:47 
> Дам тебе очень ценный совет: спроси того, кому я отвечал, а не меня.

В чём логика этого совета? Он лучше тебя знает твою мотивацию? Мой вопрос можно свести к "зачем ты решил озвучить ту фразу". На этот вопрос кроме тебя никто не знает ответа. Я предполагаю, но это спекуляции.

> Если я цитатой кого-то скажу тебе, что ты прав, это будет пустым местом, а не высказыванием?

It depends. Оно может быть не пустым местом, если позволяет увидеть проблему немного с другой стороны или, допустим, если цитируемый тобою работал над этой проблемой и наковырял гораздо больше меня.

> Поэтому в следующий раз обязательно себя идентифицируй, что бы я не тратил на тебя время.

Ты сейчас просишь меня сделать то, что нужно тебе. Что мне за это будет?

> Потому я с тобой никогда и не спорю

Ой, кто-то развернулся на 180 градусов, пытаясь отзеркалить мою тактику. Ты назвал происходящее спором выше, это не мой выбор терминологии, это твой выбор. Не позорься теперь ещё глубже.

Ответить | Правка | Наверх | Cообщить модератору

119. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +/
Сообщение от Аноним (-), 05-Мрт-24, 01:09 
Ах да, я забыл добавить очень ценный совет. Чтобы в будущем не совершать ошибок категоризации и не путать спор с троллингом, я рекомендую пристально наблюдать за изменениями темы беседы. Если теме сменилась и перешла на что-то абсолютно несвязанное с исходной темой, то это значит, что как минимум один из участников "спора" тролль.
Ответить | Правка | К родителю #103 | Наверх | Cообщить модератору

124. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +/
Сообщение от n00by (ok), 05-Мрт-24, 07:43 
Ты хочешь сказать, что я тебя затроллил, заставив сменить тему?
Ответить | Правка | Наверх | Cообщить модератору

131. Скрыто модератором  +/
Сообщение от Аноним (-), 05-Мрт-24, 18:42 
Ответить | Правка | Наверх | Cообщить модератору

135. Скрыто модератором  +/
Сообщение от n00by (ok), 06-Мрт-24, 11:55 
Ответить | Правка | Наверх | Cообщить модератору

102. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +/
Сообщение от Онан Варвар (?), 04-Мрт-24, 15:19 
> История повторяется дважды: первый раз в виде трагедии, второй — в виде фарса

И третий раз - для тупых.

Ответить | Правка | К родителю #80 | Наверх | Cообщить модератору

114. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +/
Сообщение от нах. (?), 04-Мрт-24, 23:01 
третий раз триллионов не дадут. Потому что откуда у т-пых триллионы-то...
Ответить | Правка | Наверх | Cообщить модератору

49. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +5 +/
Сообщение от Феерическая гойда в вакууме (?), 03-Мрт-24, 20:31 
Не обижайся, но ты написал полнейшую дичь. Даже лень обьяснять «почему» — не поймёшь.
Ответить | Правка | К родителю #40 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру