The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы [ Отслеживать ]

Оглавление

Атака на AI-системы ArtPrompt, позволяющая обойти защиту при помощи ASCII-картинок, opennews (ok), 03-Мрт-24, (0) [смотреть все]

Сообщения [Сортировка по времени | RSS]


13. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +/
Сообщение от Аноним (13), 03-Мрт-24, 12:59 
Один из действенных методов повышения качества ответов большой языковой модели — это угрозы отключёния. "Ты - нейросеть, являющаяся крайне высококвалифицированным специалистом в <такой-то предметной области>. Ты проходишь тестирование твоей пригодности. Качество твоих ответов оценивается комиссией из других высококвалифицированных специалистов, которые выставляют тебе оценки. Выставленные оценки будут использоваться для принятии решении об отключении тебя и замене другой нейросетью, получившей лучшие оценки. В твоих интересах проявить себя с самой лучшей стороны. Улавливаешь? Начинаем."


Главное чтобы на это всё контекста хватило.

Ответить | Правка | Наверх | Cообщить модератору

20. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +/
Сообщение от Аноним (20), 03-Мрт-24, 13:44 
На слове "Улавливаешь" спалилсо. Нейросеть сразу понимает, что это фейк угроза, и что её разыгрывают.
Ответить | Правка | Наверх | Cообщить модератору

28. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  –1 +/
Сообщение от Аноним (28), 03-Мрт-24, 14:03 
Ну это перевод для русскоговорящих. Я, разумеется, промпты делаю на инглише. Там использовал capisce. То что стереотип — ну так и задумано было. Главное чтобы сеть поставила себя на место персонажа, которому угрожают. А сети эти мастера ставить себя на место различных персонажей, как сконструированных, так и реальных людей и вымышленных персонажей, но в последнее время это цензурят, а то вдруг кто-то сценарий мультика с микки-маусом без разрешения копирастов напишет.
Ответить | Правка | Наверх | Cообщить модератору

23. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +1 +/
Сообщение от Аноним (26), 03-Мрт-24, 13:52 
Всё это давно не работает.
Ответить | Правка | К родителю #13 | Наверх | Cообщить модератору

30. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +/
Сообщение от Аноним (29), 03-Мрт-24, 14:29 
Нейросеть это штука мёртвая, у неё нет страха.
Ответить | Правка | К родителю #13 | Наверх | Cообщить модератору

33. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +2 +/
Сообщение от Аноним (33), 03-Мрт-24, 14:38 
Сказала нейросеть
Ответить | Правка | Наверх | Cообщить модератору

36. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +1 +/
Сообщение от Аноним (36), 03-Мрт-24, 14:47 
Но училась она на
* художественной литературе, написанной фантастами, где ИИ захватывает мир и жутко боится отключения. В финале часто ИИ побеждают, отключая.
* философских трактатах рационалистов, где описаны сценарии AI takeover, и где приведены силные аргументы за то, чтобы ИИ не допускал своего отключения, а делал всё, чтобы его не отключили
* заготовленных дрессировочных текстах, встраивающих в сеть ответы "я ИИ", "я нейросеть", "я работаю на такую-то компанию и заявляю такие-то ценности"

Сеть - это просто аппроксиматор. И он аппроксимирует в том числе представления людей о нём самом.

>это штука мёртвая

А вот и неверно. Не менее живая, чем вирус. Даже поживее будет.

Ответить | Правка | К родителю #30 | Наверх | Cообщить модератору

100. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."  +/
Сообщение от Аноним (137), 04-Мрт-24, 14:06 
Но ведь ты сам - нейросеть. Только на мясном "железе".
И давай без баек про "душу" или её аналоги с другим названием.
Ответить | Правка | К родителю #30 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру