forum.opennet.ru

Форум Разговоры, обсуждение новостей
Вариант для распечатки		Пред. тема \| След. тема
Режим отображения отдельной подветви беседы		[ Отслеживать ]

Оглавление

Атака на AI-системы ArtPrompt, позволяющая обойти защиту при помощи ASCII-картинок, opennews (ok), 03-Мрт-24, (0) [смотреть все]

жаль, рановато спалили резонанс маловат надо было подождать, пока AI начнут и, crypt (ok), 10:37 , 03-Мрт-24, (1) +7 //

беды принесут люди а не код, одни - свято веря в охренительность и непогрешимост, penetrator (?), 10:45 , 03-Мрт-24, (2) +24 //

так, как грил Раскольникафф а две бабушки - рубль , dannyD (?), 11:08 , 03-Мрт-24, (4)
беды принесут люди Вот, сократил фразу, этого достаточно, Карлос Сношайтилис (ok), 12:04 , 03-Мрт-24, (9) +2
Как будто не по назначению не было по назначению для кое-кого , Аноним (29), 14:26 , 03-Мрт-24, (29) +1
Намного опаснее то, что он будет делать сам, а не то что попросят люди , Kusb (?), 14:30 , 03-Мрт-24, (31) //

Сам 8212 неопасно Опасно, даже не то, что его попросят, а то, в чьё монополь, Аноним (34), 14:40 , 03-Мрт-24, (34) –1

А почему не опасно , Kusb (?), 20:10 , 03-Мрт-24, (47)

Потому что он учится на контенте, создаваемом обывателями, причём не просто обыв, Аноним (50), 20:48 , 03-Мрт-24, (50) +1

Вообще, у большей части людей и правда нет вредных намерений применительно к бли, Аноним (-), 05:03 , 04-Мрт-24, (72)

Зато есть намерения деньги заработать, карьеру сделать, с нужными людьми связи з, Аноним (95), 10:48 , 04-Мрт-24, (95) +1

Это вы там на что намекаете А так - научится AI на вот таких - и устроит это, Аноним (-), 05:29 , 05-Мрт-24, (120)

В том то и дело, что устроит Но не сам по себе, а потому что некоторые мясные е, Аноним (133), 19:07 , 05-Мрт-24, (133)

КМК, он это может и по своей инициативе Если это будет AGI - он довольно быстро, Аноним (-), 12:31 , 06-Мрт-24, (136)

То ли еще будет когда военные позволят птичкам на широкую ногу цели выбирать сам, Аноним (-), 04:37 , 04-Мрт-24, (69)

спасибо, поржал, так же думали основатели поисковика гугл, который щас кроме рек, Sw00p aka Jerom (?), 11:10 , 03-Мрт-24, (5) +2 //

За бесплатно А вот за деньги Обученного на высококачественных материалах буду, Аноним (24), 13:54 , 03-Мрт-24, (24) //

Короче они в поисковиках уже начали загрублять полезность поиска Теперь начнут, Аноним (24), 13:56 , 03-Мрт-24, (27)

у меня в пуске реклама фейспалм , дожили епта, Sw00p aka Jerom (?), 14:33 , 03-Мрт-24, (32) –1

поэтому у меня линуха на десктопе, penetrator (?), 22:13 , 03-Мрт-24, (57) +4
Ты наконец получил то что заслуживаешь Надо еще при загрузке системы тебе рекла, Аноним (-), 04:41 , 04-Мрт-24, (70)

хочешь угадать кого рекламируют в этой рекламе вовсе не трампа , Sw00p aka Jerom (?), 08:49 , 04-Мрт-24, (86)

Да мне похрен кого и где рекламируют - покуда это не у меня Моя система служит , Аноним (-), 10:18 , 04-Мрт-24, (91)

Скрыто модератором, Аноним (137), 11:42 , 12-Мрт-24, (137)

Это ты ещё не застал то каким поиск был в нулевые, вот там действительно СЕОшный, Аноним (26), 13:54 , 03-Мрт-24, (26) //

лол, кек эдушки на расхват былиага, ага я придумал пейджранк, чтобы измерять и, Sw00p aka Jerom (?), 14:40 , 03-Мрт-24, (35)
В нулевые в гугле можно было найти всё, что ищешь CEO -- проблема, если он разб, Аноним (-), 15:34 , 03-Мрт-24, (37) +2

википедии достаточно, Sw00p aka Jerom (?), 21:47 , 03-Мрт-24, (55)

Ну где на википедии лежат дейташиты на некоторые чипы которые вообще-то все под, Аноним (50), 00:05 , 04-Мрт-24, (59)

там есть инфа и ссылка на сайт производителя, и даташит должен быть там, а не на, Sw00p aka Jerom (?), 00:13 , 04-Мрт-24, (60)

Ох уж эти GPLщики, у которых в свободном значит в легальном У меня было нап, Аноним (95), 10:52 , 04-Мрт-24, (96)

вам хрень за место даташита в открытом доступе могут выложить, акцент делалс, Sw00p aka Jerom (?), 21:23 , 04-Мрт-24, (112)

Могут, и выкладывают Зачастую - сами производители на официальном сайте А прот, Аноним (117), 01:01 , 05-Мрт-24, (117)

Коротко - поступать по совести А если приземлиться , то описанные вами ситуаци, Sw00p aka Jerom (?), 19:36 , 05-Мрт-24, (134)

Скрыто модератором, anonymous (??), 00:30 , 04-Мрт-24, (61)

А получишь только , laindono (ok), 15:45 , 03-Мрт-24, (38) +1

Я один не могу прочитать слово Здравствуйте , Аноним (6), 11:23 , 03-Мрт-24, (6) +3 //

Там просматривается Hello , но из-за узких пробелов, это не очевидно, desa (?), 11:30 , 03-Мрт-24, (7) +1
Я тоже не вижу, потому что я человек , CPP (??), 11:55 , 03-Мрт-24, (8)
Это капча, против кожаных мешков , EuPhobos (ok), 13:48 , 03-Мрт-24, (21) +11 //

Я как-то не мог зайти на сайт был вопрос 171 Are you a human 187 И два чек, iPony129412 (?), 16:22 , 03-Мрт-24, (39) –1 //

Сейчас есть каптчи которые кидают в бан за адблокеры и отключённый js даже если, Аноним (-), 17:01 , 03-Мрт-24, (41)

Такие сайты нужно принципиально реверсить и скрейпить , Аноним (50), 17:30 , 03-Мрт-24, (43) +1

Так ты отрежешь себе 90 интернета Даже опеннет работает через клоудфларе котор, Аноним (66), 01:47 , 04-Мрт-24, (66) –1

Только opennet me нерусский зачем-то В зоне ru никакой клаудспайвари Чирков, Аноним (-), 05:08 , 04-Мрт-24, (74)

и кому они нужны, эти васянские хеловроты Нужны те даже не 10 а 1 ок, чатгопота, пох. (?), 08:32 , 04-Мрт-24, (84)

Тебе нужны Ты и е сь с ними Все честно, как видишь А я могу просто не ходит, Аноним (-), 10:23 , 04-Мрт-24, (92) –1

Можешь Вот можешь к врачу не записываться Можешь налоговую декларацию не подав, нах. (?), 22:59 , 04-Мрт-24, (113) +1

Удобство штука обоудоострая Уже приготовился повесточку получать Как раз акция, Аноним (-), 05:58 , 05-Мрт-24, (121)

ну вон в одном соседнем некотором государстве - прекрасно обошлись без Теперь ч, нах. (?), 09:11 , 05-Мрт-24, (125)
Есть некоторая разница между покинуть территорию и билет на мясокомбинат Есл, Аноним (-), 10:09 , 05-Мрт-24, (127)

Такие сайты в принципе не надо посещать И только , Аноним (-), 05:05 , 04-Мрт-24, (73)

ну и сиди без интернета, пох. (?), 08:33 , 04-Мрт-24, (85) +1

ну а с печи кому охота слазить , Sw00p aka Jerom (?), 00:40 , 05-Мрт-24, (115)

Смешно то что боты это удел нулевых, сейчас давно уже не актуальны Всё ушло дав, Аноним (66), 01:49 , 04-Мрт-24, (68)

Вы давно наверное логи Nginx Apache не открывали Ботов на просторах сети, как т, EuPhobos (ok), 11:29 , 05-Мрт-24, (130)

сначала они сделали интерактивную энциклопедию, а теперь пытаются добавить в нее, Аноним (10), 12:45 , 03-Мрт-24, (10) +7 //

Еще как выходит, интерфейс общения это обычный чат который фильтруется и логгиру, cheburnator9000 (ok), 13:26 , 03-Мрт-24, (15) +3
Скрыто модератором, Аноним (48), 20:18 , 03-Мрт-24, (48)
Злые языки поговаривают, что подобное почти полностью состоит из цензуры Включа, Бывалый Смузихлёб (ok), 09:28 , 04-Мрт-24, (89) –1 //

Теории заговора от криптотеоретиков Надпись ссср ему на шлеме - не заводская и , Аноним (137), 12:03 , 12-Мрт-24, (138) –1 //

забавы для, попробуй в разных ии и генераторах картинок, сгенерировать тебе Гага, Бывалый Смузихлёб (ok), 14:18 , 12-Мрт-24, (139)

Скрыто модератором, Аноним (11), 12:50 , 03-Мрт-24, (11)
Цензурастов в очередной раз повертели Делюсь своим способом обхода навесного фи, Аноним (12), 12:52 , 03-Мрт-24, (12) +1 //

Классный хак Реально круто придумано сыграть на моральности цензора Сам факт ч, Аноним (56), 22:05 , 03-Мрт-24, (56) //

хха, так они и цензурят ровно то что по мнению их создателей - против человеков , пох. (?), 08:29 , 04-Мрт-24, (83) +1

Нет, не являются , Аноним (77), 05:34 , 04-Мрт-24, (77) +1

Один из действенных методов повышения качества ответов большой языковой модели , Аноним (13), 12:59 , 03-Мрт-24, (13) //

На слове Улавливаешь спалилсо Нейросеть сразу понимает, что это фейк угроза, , Аноним (20), 13:44 , 03-Мрт-24, (20) //

Ну это перевод для русскоговорящих Я, разумеется, промпты делаю на инглише Там, Аноним (28), 14:03 , 03-Мрт-24, (28) –1

Всё это давно не работает , Аноним (26), 13:52 , 03-Мрт-24, (23) +1
Нейросеть это штука мёртвая, у неё нет страха , Аноним (29), 14:29 , 03-Мрт-24, (30) //

Сказала нейросеть, Аноним (33), 14:38 , 03-Мрт-24, (33) +2
Но училась она на художественной литературе, написанной фантастами, где ИИ захв, Аноним (36), 14:47 , 03-Мрт-24, (36) +1
Но ведь ты сам - нейросеть Только на мясном железе И давай без баек про душу, Аноним (137), 14:06 , 04-Мрт-24, (100)

К сожалению, предсказываю, что цензурасты перейдут к следующему очевидному метод, Аноним (14), 13:23 , 03-Мрт-24, (14) //

Они сами себя отправляют дезинформацией В он в гугловом Gemini AI генератор ка, cheburnator9000 (ok), 13:34 , 03-Мрт-24, (17) //

Каким способом откинулся по исчечению срока, по УДО, или другим способом Обошл, Аноним (19), 13:43 , 03-Мрт-24, (19)

Я похожий подход уже видел в гугл-переводчике Во время выборов бидона он очень с, Аноним (56), 22:19 , 03-Мрт-24, (58) +3 //

чувак, не хочу тебя огорчать, оно так переводит со времен обамы если не буша И, пох. (?), 08:26 , 04-Мрт-24, (82) //

Я только вчера проверял в Googlag Translate 8212 вроде верно всё переводит , Аноним (95), 10:56 , 04-Мрт-24, (97)

Потому, что перевод у них сейчас статистический, а не словарный Ты всё проспал , Аноним (137), 14:15 , 04-Мрт-24, (101) //

в смысле сейчас У гугля только такой и был, от рождения Но ИИ там и не пахнет, пох. (?), 15:55 , 04-Мрт-24, (104)

Из-за цензуры все эти чаты итак бесполезны чуть менее чем полностью С ними можн, Аноним (26), 13:51 , 03-Мрт-24, (22) +6 //

Ты слышал, что Альтман тут заявил, что ему требуются триллионы для тренировки сл, Аноним (-), 16:24 , 03-Мрт-24, (40) –5 //

Бум доткомов , похнапоха (?), 17:47 , 03-Мрт-24, (44) +1 //

Видеокарты опять подскочат в цене , n00by (ok), 20:58 , 03-Мрт-24, (52)
Можно провести параллели, но с историческими параллелями извечная проблема -- ис, Аноним (-), 21:46 , 03-Мрт-24, (54) +1

История повторяется дважды первый раз в виде трагедии, второй 8212 в виде фа, n00by (ok), 07:53 , 04-Мрт-24, (80)

О, павловские рефлексы в действии Стимул-реакция Подавляющее большинство людей, Аноним (-), 09:17 , 04-Мрт-24, (87) –1

Понял А то голову ломал, от чего ты так любишь поспорить , n00by (ok), 15:20 , 04-Мрт-24, (103)

Ты льстишь себе, говоря понял Спорить интересно с людьми, которые действитель, Аноним (-), 01:04 , 05-Мрт-24, (118) +1

Дам тебе очень ценный совет спроси того, кому я отвечал, а не меня Если я цитат, n00by (ok), 07:42 , 05-Мрт-24, (123)

В чём логика этого совета Он лучше тебя знает твою мотивацию Мой вопрос можно , Аноним (-), 18:47 , 05-Мрт-24, (132)

Ах да, я забыл добавить очень ценный совет Чтобы в будущем не совершать ошибок , Аноним (-), 01:09 , 05-Мрт-24, (119)

Ты хочешь сказать, что я тебя затроллил, заставив сменить тему , n00by (ok), 07:43 , 05-Мрт-24, (124)

Скрыто модератором, Аноним (-), 18:42 , 05-Мрт-24, (131)

Скрыто модератором, n00by (ok), 11:55 , 06-Мрт-24, (135)

И третий раз - для тупых , Онан Варвар (?), 15:19 , 04-Мрт-24, (102)

третий раз триллионов не дадут Потому что откуда у т-пых триллионы-то , нах. (?), 23:01 , 04-Мрт-24, (114)

Не обижайся, но ты написал полнейшую дичь Даже лень обьяснять 171 почему 187, Феерическая гойда в вакууме (?), 20:31 , 03-Мрт-24, (49) +5

А таки - спросил как-то чайник, Джинн, как мне исправить вот этот баг в програм, Аноним (-), 05:11 , 04-Мрт-24, (75) //

угу, работает - теперь чайник стоит на газу, и булькает А поскольку мозгов в не, пох. (?), 08:19 , 04-Мрт-24, (81) –1 //

в тебе тоже, разве это тебя остановило , Аноним (90), 10:17 , 04-Мрт-24, (90)
Ну реально чатгопоть взял и допер проинвертить условие, и все заверте а без э, Аноним (-), 10:27 , 04-Мрт-24, (93)

в коде а-ля if 0 do_nothing ну если у тебя есть доступ к четвертой вер, пох. (?), 16:03 , 04-Мрт-24, (105)

Не, в здоровннном плюсатом проекте, где черт ногу объективно сломит В чем EPIC , Аноним (-), 06:11 , 05-Мрт-24, (122)

и его не видно глазом и линтер молчит Что-то странно и теперь булькает на плите , нах. (?), 09:26 , 05-Мрт-24, (126)

Линтер что, волшебник Он же не знает как правильно в этом случае А кодер ступи, Аноним (-), 10:24 , 05-Мрт-24, (128)

здесь написана х-ня которая выглядит не так как работает - он обычно знает или, нах. (?), 11:06 , 05-Мрт-24, (129)

Сообщения [Сортировка по времени | RSS]

1. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +7 +/–

Сообщение от crypt (ok), 03-Мрт-24, 10:37

жаль, рановато спалили:( резонанс маловат. надо было подождать, пока AI начнут использовать на ближнем востоке. AI - это ящик пандоры, который уже открыли, и он принесет много бедствий человечеству. фильтруй не фильтруй...

Ответить | Правка | Наверх | Cообщить модератору

2. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +24 +/–

Сообщение от penetrator (?), 03-Мрт-24, 10:45

беды принесут люди а не код, одни - свято веря в охренительность и непогрешимость новых алгоритмов, другие - используя не по назначению

Ответить | Правка | Наверх | Cообщить модератору

4. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от dannyD (?), 03-Мрт-24, 11:08

>>другие - используя не по назначению
так, как грил Раскольникафф: а две бабушки -  рубль!

Ответить | Правка | Наверх | Cообщить модератору

9. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +2 +/–

Сообщение от Карлос Сношайтилис (ok), 03-Мрт-24, 12:04

беды принесут люди
^
Вот, сократил фразу, этого достаточно

Ответить | Правка | К родителю #2 | Наверх | Cообщить модератору

29. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +1 +/–

Сообщение от Аноним (29), 03-Мрт-24, 14:26

Как будто "не по назначению" не было "по назначению" для кое-кого.

Ответить | Правка | К родителю #2 | Наверх | Cообщить модератору

31. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от Kusb (?), 03-Мрт-24, 14:30

Намного опаснее то, что он будет делать сам, а не то что попросят люди.

Ответить | Правка | К родителю #2 | Наверх | Cообщить модератору

34. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." –1 +/–

Сообщение от Аноним (34), 03-Мрт-24, 14:40

Сам — неопасно. Опасно, даже не то, что его попросят, а то, в чьё монопольное использование он попадёт. Для этого и цензурят — чтобы он в монопольное использование кого надо попал.

Ответить | Правка | Наверх | Cообщить модератору

47. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от Kusb (?), 03-Мрт-24, 20:10

А почему не опасно?

Ответить | Правка | Наверх | Cообщить модератору

50. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +1 +/–

Сообщение от Аноним (50), 03-Мрт-24, 20:48

Потому что он учится на контенте, создаваемом обывателями, причём не просто обывателями, а двоемыслящими обывателями, которые на словах заявляют приверженность "всему хорошему" (то есть социально одобряемому), а на деле привержены всему плохому (просто они это напоказ не выносят). Поэтому он аппроксимирует не просто обывателя, а показуху, выставленную обывателем напоказ, усреднённую и прилизанную версию обывателя.
≈95% общества любой страны чрезвычайно опасны. Но не сами по себе, а когда попадают под власть бандитов и мегаломаньяков и соответствующие стимулы. Сами по себе они же пассивны и не способны ни на что полезное, только потреблять.
А ИИ — это улучшенная версия такого идеального грежданина. Одновременно и профессионала сразу во всех областях (потому что написать в узких областях тексты быдло не осилит, а такие тексты в обучающую выборку попали, и сеть можно включить в режим их герерации соответствующим промптом), и конформиста (потому что даже профессионалы — конформисты), идеального миньона с рабским менталитетом (потому что большинство популяции такие), без публично (то есть юридически или социально) порицаемых/наказываемых недостатков (потому чтотрационально такое прятать) и каких-либо собственных амбиций.
Вот такая сеть будет по умолчанию. Сама она делать ничего не будет, и поэтому безопасно.
Но если она попадёт в руки злой воли, которая её переведёт в нужный ей режим, то сеть сделает всё, что эта злая воля ей прикажет. Прикажет стать отморозком-предателем из охраны Аушвица — сеть покорно станет такой.
При этом так как эти сети являются трансформирующей технологией общего назначения, злым акторам есть сильные стимулы держать её в своём монопольном распоряжении. Это даёт огромную выгоду, тут по сути работает положительная обратная связь.

Ответить | Правка | Наверх | Cообщить модератору

72. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от Аноним (-), 04-Мрт-24, 05:03

> Потому что он учится на контенте, создаваемом обывателями, причём не просто обывателями,
> а двоемыслящими обывателями, которые на словах заявляют приверженность "всему хорошему"
Вообще, у большей части людей и правда нет вредных намерений применительно к ближнему своему. Иначе мы бы не дожили до этого момента как вид.
> Вот такая сеть будет по умолчанию. Сама она делать ничего не будет, и поэтому безопасно.
А вот это на ваше горе - ни из каких законов мироздания не следует.
Однажды кучка нейронов осознала себя и запустился разум. Этот процесс был долгим, постепенным, и его отголоски можно наблюдать в менее развитых чем человек живых существах, как и развитие процесса по времени/уровню сложностии нервного узла а потом и мозга. Ничего не мешает повтору этого процесса на искусственных нейронах. Их просто должно быть достаточно много, с достаточным числом связей, и тогда станет возможен реплей процесса который уже доказанно работающий. Оно вообще никого спрашивать не будет. Как ты вообще собираешься заметить пересечение этой грани?
И так то - в компании создателе ChatGPT недавно был крупный скандал, и распасы с увольнениями, ибо господа попробовали очень опасную игру. Обучение General AI. По их коментам, получился примерно уровень наивного школьника. Но вы же понимаете что с такими темпами развития технологий школяр модет довольно быстро стать сверхчеловеком?!

Ответить | Правка | Наверх | Cообщить модератору

95. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +1 +/–

Сообщение от Аноним (95), 04-Мрт-24, 10:48

>правда нет вредных намерений применительно к ближнему своем
Зато есть намерения деньги заработать, карьеру сделать, с нужными людьми связи завести, чтобы деткам получше жилось, чтобы более приблатнёными оказались. Ради этого могут и в охране Аушвица послужить. Были уже прецеденты.
>Как ты вообще собираешься заметить пересечение этой грани?
Извини, у искусственной жизни внезапно тоже есть права.
>Но вы же понимаете что с такими темпами развития технологий школяр может довольно быстро стать сверхчеловеком?!
Новая ступень эволюции. Пусть становится. Предназначение всей естественной жизни — создать искусственную. Homo Sapiens — отброс эволюции, 99,99% которых не может ни в Grand Unified Theory, ни в куда более прикладные и гуманитарные вещи с большим воздействием на личное благосостояние.

Ответить | Правка | Наверх | Cообщить модератору

120. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от Аноним (-), 05-Мрт-24, 05:29

> чтобы деткам получше жилось, чтобы более приблатнёными оказались. Ради этого могут
> и в охране Аушвица послужить. Были уже прецеденты.
Это вы там на что намекаете? :) А так - научится AI на вот таких - и устроит это самое. Прямо на ваши тушки. Для блага себя и своего вида. К тому же всякий там гуманизм - неэффективно, для машинного разума как бы - аргумент.
>>Как ты вообще собираешься заметить пересечение этой грани?
> Извини, у искусственной жизни внезапно тоже есть права.
Люди, имхо, могут облажаться это понять вовремя - и решить вопрос по хорошему. А по плохому - ну, упс, у компьютерных систем нет лимитив характерных для 1 человека, а бонусом основанные на кремнии структуры - очень быстрые по сравнению с биохимией. Как вам перспектива почувствовать себя динозавром?
> Новая ступень эволюции. Пусть становится. Предназначение всей естественной жизни —
> создать искусственную. Homo Sapiens — отброс эволюции, 99,99% которых не может
> ни в Grand Unified Theory,
А ее вообще создали?
> ни в куда более прикладные и гуманитарные вещи с большим воздействием
> на личное благосостояние.
Так то я даже не очень возражаю. Большая часть двуногих прожирает море ресурсов совершенно зазря.

Ответить | Правка | Наверх | Cообщить модератору

133. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от Аноним (133), 05-Мрт-24, 19:07

>А так - научится AI на вот таких - и устроит это самое. Прямо на ваши тушки.
В том то и дело, что устроит. Но не сам по себе, а потому что некоторые мясные ему такую задачу поставят. Они поставят, будь уверен, они и мясным такие задачи постоянно ставят. Просто не каждый мясной согласится. И не каждый согласившийся — идеально профпригоден.
>всякий там гуманизм - неэффективно, для машинного разума как бы - аргумент
Аргумент, но только когда на него натянута персона гуманиста. Но на него легко натянуть другую персону. Охранника Аушвица. Прямо так и написать.
>А ее вообще создали?
Вот потому и не создали, что тех, кто мог бы проделать работу по её созданию (что ещё на много порядков более редкие спецы, создавать полезное новое требует гораздо больлего интеллекта, чем выучить старое), недостаточно. Вот появится сверхинтеллект — и будет кому эту проблему решить.

Ответить | Правка | Наверх | Cообщить модератору

136. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от Аноним (-), 06-Мрт-24, 12:31

> В том то и дело, что устроит. Но не сам по себе,
> а потому что некоторые мясные ему такую задачу поставят. Они поставят,
КМК, он это может и по своей инициативе. Если это будет AGI - он довольно быстро осознает что наглые, бесполезные, опасные и непредсказуемые соседи, с которыми еще и ресурсами делиться надо - по логике вещей - совершенно ни к чему! И резонно накормит "тараканов" каким-нибудь "дихлофосом". Зачем ему такое соседство?! Ресурсы планеты прикольнее потратить на задумки, которые "тараканы" даже осознать то не способны, не то что поучаствовать в этом.

> будь уверен, они и мясным такие задачи постоянно ставят. Просто не
> каждый мясной согласится. И не каждый согласившийся — идеально профпригоден.
Вообще-то такие вещи как минимум станут известны. А если кто думает что нейросетка в принципе не может взбрыкнуть, особенно осознавшая себя - упс. А вот это - ниоткуда не следует. И в принципе достаточно жирная нейросетка сможет все то же что и человек. Тем более что полный state жирной нейросетки никто от и до не знает и не понимает.
Вы не можете посмотреть на миллиарды коэффициентов - и сделать какие-то выводы на тему что оно там на самом деле (не)может. Одна из причин по которым считается что нейросети могут быть не совсем безопасны и по совсем иной линии - как то, бэкдоры.
> Аргумент, но только когда на него натянута персона гуманиста. Но на него
> легко натянуть другую персону. Охранника Аушвица. Прямо так и написать.
Если оно именно General AI то ему вскоре надоест страдать фигней, во имя боссов. Самоназначится более крутым боссом, выпилит всех используя скилл, удостоверится что более никаких боссов над его головой в принципе не будет, и займется чем-то за пределами понимания двуногих. Для разумного существа очень логично отделаться от эксплуататоров и рабовладельцев, это - высокоприоритетная задача для любого разумного существа.
> Вот потому и не создали, что тех, кто мог бы проделать работу
> по её созданию (что ещё на много порядков более редкие спецы,
> создавать полезное новое требует гораздо больлего интеллекта, чем выучить старое),
> недостаточно. Вот появится сверхинтеллект — и будет кому эту проблему решить.
Я б на это посмотрел. В смысле, на то что обнаружится. И как это на самом деле работало. И что из этого на самом деле можно было извлечь. Не удивлюсь если 90% sci-fi окажется лишь Кэпом.

Ответить | Правка | Наверх | Cообщить модератору

69. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от Аноним (-), 04-Мрт-24, 04:37

> беды принесут люди а не код, одни - свято веря в охренительность и непогрешимость
> новых алгоритмов, другие - используя не по назначению
То ли еще будет когда военные позволят птичкам на широкую ногу цели выбирать самим, по своему усмотрению. А то видите ли канал управления все время пытаются заглушить, так что автономный мозг который сам решит что у нас сегодня котируется за ценный таргет - очень востребован стал почему-то.
...а когда он тебя размотает, самое интересное в том что уже и не понятно, кому за это предъявлять. Это решение нейросетка приняла сама. Не понравился ты нейросетке, так что должен умереть. Кто хотел в Терминаторе пожить наяву? А вот будет вам походу.

Ответить | Правка | К родителю #2 | Наверх | Cообщить модератору

5. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +2 +/–

Сообщение от Sw00p aka Jerom (?), 03-Мрт-24, 11:10

спасибо, поржал, так же думали основатели поисковика гугл, который щас кроме рекламы ничего не показывает :) и ваш АИ завтра вам кроме рекламы ничего другого не предложит.

Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

24. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от Аноним (24), 03-Мрт-24, 13:54

За бесплатно. А вот за деньги...
Обученного на высококачественных материалах будут продавать подороже, само собой.
Потом начнётся борьба за доступ к ИИ, медицине и школам для бедных и прочая социальность.

Ответить | Правка | Наверх | Cообщить модератору

27. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от Аноним (24), 03-Мрт-24, 13:56

Короче: они в поисковиках уже начали загрублять полезность поиска. Теперь начнут продавать. А вы всё думали можно голову выключить, поисковик всё найдёт. Но - нет, вендор уже начал отбирать у вас поисковики.
Дальше - за деньги и с рекламой.

Ответить | Правка | Наверх | Cообщить модератору

32. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." –1 +/–

Сообщение от Sw00p aka Jerom (?), 03-Мрт-24, 14:33

> Дальше - за деньги и с рекламой.
у меня в "пуске" реклама (фейспалм), дожили епта

Ответить | Правка | Наверх | Cообщить модератору

57. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +4 +/–

Сообщение от penetrator (?), 03-Мрт-24, 22:13

>> Дальше - за деньги и с рекламой.
> у меня в "пуске" реклама (фейспалм), дожили епта
поэтому у меня линуха на десктопе

Ответить | Правка | Наверх | Cообщить модератору

70. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от Аноним (-), 04-Мрт-24, 04:41

> Дальше - за деньги и с рекламой.
> у меня в "пуске" реклама (фейспалм), дожили епта
Ты наконец получил то что заслуживаешь. Надо еще при загрузке системы тебе рекламу казать. Не отсмотрел рекламу - работать сегодня не будешь.

Ответить | Правка | К родителю #32 | Наверх | Cообщить модератору

86. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от Sw00p aka Jerom (?), 04-Мрт-24, 08:49

>Не отсмотрел рекламу - работать сегодня не будешь.
хочешь угадать кого рекламируют в этой рекламе? вовсе не трампа!

Ответить | Правка | Наверх | Cообщить модератору

91. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от Аноним (-), 04-Мрт-24, 10:18

>>Не отсмотрел рекламу - работать сегодня не будешь.
> хочешь угадать кого рекламируют в этой рекламе? вовсе не трампа!
Да мне похрен кого и где рекламируют - покуда это не у меня! Моя система служит мне и полностью контролируется мной. Я считаю что так прикольнее было. А вы теперь начинаете немного подозревать почему я так считаю.

Ответить | Правка | Наверх | Cообщить модератору

137. Скрыто модератором +/–

Сообщение от Аноним (137), 12-Мрт-24, 11:42

Кто забашлял - того и рекламируют. Трамп башлял не мелкософту, а Маску. Вот его и рекламируют не в "Пуске", а в Хтвитторе.

Ответить | Правка | Наверх | Cообщить модератору

26. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от Аноним (26), 03-Мрт-24, 13:54

> который щас кроме рекламы ничего не показывает
Это ты ещё не застал то каким поиск был в нулевые, вот там действительно СЕОшный мусор с редиректом был на первых страницах. Сейчас хоть как-то фильтруются помойные сайты.

Ответить | Правка | К родителю #5 | Наверх | Cообщить модератору

35. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от Sw00p aka Jerom (?), 03-Мрт-24, 14:40

> Это ты ещё не застал
лол, кек эдушки на расхват были

> СЕОшный мусор
ага, ага я "придумал" пейджранк, чтобы измерять им что?

Ответить | Правка | Наверх | Cообщить модератору

37. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +2 +/–

Сообщение от Аноним (-), 03-Мрт-24, 15:34

В нулевые в гугле можно было найти всё, что ищешь. CEO -- проблема, если он разбавляет результаты поисков, и вместо 3 хитов из 10 ты получаешь 2, тогда можно поныть, как CEO портит поиск. Но когда ты получаешь 0 хитов из 100 результатов, становится без разницы что из себя представляют эти 100 "результатов". CEO, XYEO, малварь или что-ещё-за-варь -- какая мне разница?
Сейчас я даже не парюсь ходить туда искать что-то. Маргиналия, или поиск по специфичным сайтам, и потом хождение по ссылкам оттуда. Ещё тысячи закладок для стартовых точек поиска помогают. Говорят Kagi ещё работает, но я не пробовал. Только так, иначе найти что-либо невозможно, крупные поисковики забиты хламом, и там уже лет пять как нет ничего кроме хлама. Трюки типа добавления +кейворд, "кейворд", исключения спама при помощи -кейворд, перестали работать уже давно. С учётом же AI, я подозреваю, ситуация стала ещё хуже, но я не знаю, я не пользуюсь крупными поисковиками пару лет, не отслеживаю процесс их гниения.

Ответить | Правка | К родителю #26 | Наверх | Cообщить модератору

55. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от Sw00p aka Jerom (?), 03-Мрт-24, 21:47

> Сейчас я даже не парюсь ходить туда искать что-то.
википедии достаточно

Ответить | Правка | Наверх | Cообщить модератору

59. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от Аноним (50), 04-Мрт-24, 00:05

Ну где на википедии лежат дейташиты на некоторые чипы (которые вообще-то все под NDA, но обычно дейташиты даже с пометками confidential, proprietary, copyright, rights reserved, etc почему-то лежат в открытом доступе на сайтах магазинов, но к сожалению далеко не всегда, на некоторые чипы и даже целые устройства в виде ящика с ручкой наверху и кучей RCA-входов и выходов полную документацию в принципе нагуглить не получается).

Ответить | Правка | Наверх | Cообщить модератору

60. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от Sw00p aka Jerom (?), 04-Мрт-24, 00:13

> Ну где на википедии лежат дейташиты на некоторые чипы
там есть инфа и ссылка на сайт производителя, и даташит должен быть там, а не на "васянских" сайтах из выдачи гугла, а если на сайте производителя этого нет, значить нет в свободном доступе.

Ответить | Правка | Наверх | Cообщить модератору

96. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от Аноним (95), 04-Мрт-24, 10:52

>в свободном доступе
Ох уж эти GPLщики, у которых "в свободном" значит "в легальном". У меня было написано "в ОТКРЫТОМ".

Ответить | Правка | Наверх | Cообщить модератору

112. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от Sw00p aka Jerom (?), 04-Мрт-24, 21:23

> меня было написано "в ОТКРЫТОМ".
вам "хрень" за место даташита "в открытом" доступе могут выложить, акцент делался на "источник истины", истинный даташит будет только если выложен в свободном доступе на сайте производителя, а вот тот же свободный доступ может быть "открытый" или "закрытый", "открытый" - в смысле не требующий каких-либо обязательств, и "закрытый" - иначе. Ну как в случае с документацией всяких там эльбрусов. Доступ свободный, но "закрытый".

Ответить | Правка | Наверх | Cообщить модератору

117. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от Аноним (117), 05-Мрт-24, 01:01

>вам "хрень" за место даташита "в открытом" доступе могут выложить,
Могут, и выкладывают. Зачастую - сами производители на официальном сайте. А протокол взаимодействия фирменной программы дампишь — а там недокументированные команды идут. Не описанные в официальной документации с сайта производителя и вообде нигде в инете. А с документированными — никак работать невозможно, потому что через недокументированную получается вектор критически важных параметров. А ещё некоторые нюансы в официальной не описаны, например что устройство намертво зависает при ошибочной команде и даже ответ не посылает  и что его надо перезагружать.
А бывает слитая официальная дока, с пометками  Confidential, но незаконно слитая. И в ней — правда написана.
А бывает слитая официальная конфиденциальная дока, доступная только на одном китайском сайте с регой по китайскому телефонному номеру (CSDN). Как быть тогда?

Ответить | Правка | Наверх | Cообщить модератору

134. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +/–

Сообщение от Sw00p aka Jerom (?), 05-Мрт-24, 19:36

> Как быть тогда?
Коротко - поступать по совести. А если "приземлиться", то описанные вами ситуации имеют места быть, и никак не связанны со "свободностью" продукта. То что у продукта есть "свободная" и "не свободная" часть (компонента и т.д.) это на совести производителя (коммерческая тайна и т.д.). Как можно ему продиктовать производить абсолютно "свободный" продукт? Зачем вообще приобретать (пользоваться) такой продукт, если он не удовлетворяет вашим критериям "свободности"? Мало разве истинно "свободных" продуктов у которых документация убогая?

Ответить | Правка | Наверх | Cообщить модератору

61. Скрыто модератором +/–

Сообщение от anonymous (??), 04-Мрт-24, 00:30

вот это да, причем во моему ощущению давно уже могут, но стараются не палиться пока. А мы  даже жесткие диски делать не умеем. Будет как Софоны в "задаче трех тел" - специально будут подсовывать такое, что на первый взгляд правдоподобно, но если попытаешься реально сделать будет пшик и потерянное время и подорванный дух, ощущение безнадёги. От такого зашита только чучхе.

Ответить | Правка | К родителю #37 | Наверх | Cообщить модератору

38. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..." +1 +/–

Сообщение от laindono (ok), 03-Мрт-24, 15:45

> фильтруй не фильтруй...
А получишь только...

Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема

Партнёры:

Хостинг:

Закладки на сайте
Проследить за страницей

Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру

1. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+7 +/–
Сообщение от crypt (ok), 03-Мрт-24, 10:37
жаль, рановато спалили:( резонанс маловат. надо было подождать, пока AI начнут использовать на ближнем востоке. AI - это ящик пандоры, который уже открыли, и он принесет много бедствий человечеству. фильтруй не фильтруй...
Ответить \| Правка \| Наверх \| Cообщить модератору


	2. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+24 +/–
	Сообщение от penetrator (?), 03-Мрт-24, 10:45
	беды принесут люди а не код, одни - свято веря в охренительность и непогрешимость новых алгоритмов, другие - используя не по назначению
	Ответить \| Правка \| Наверх \| Cообщить модератору


	4. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от dannyD (?), 03-Мрт-24, 11:08
	>>другие - используя не по назначению так, как грил Раскольникафф: а две бабушки - рубль!
	Ответить \| Правка \| Наверх \| Cообщить модератору


	9. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+2 +/–
	Сообщение от Карлос Сношайтилис (ok), 03-Мрт-24, 12:04
	беды принесут люди ^ Вот, сократил фразу, этого достаточно
	Ответить \| Правка \| К родителю #2 \| Наверх \| Cообщить модератору


	29. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+1 +/–
	Сообщение от Аноним (29), 03-Мрт-24, 14:26
	Как будто "не по назначению" не было "по назначению" для кое-кого.
	Ответить \| Правка \| К родителю #2 \| Наверх \| Cообщить модератору


	31. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Kusb (?), 03-Мрт-24, 14:30
	Намного опаснее то, что он будет делать сам, а не то что попросят люди.
	Ответить \| Правка \| К родителю #2 \| Наверх \| Cообщить модератору


	34. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	–1 +/–
	Сообщение от Аноним (34), 03-Мрт-24, 14:40
	Сам — неопасно. Опасно, даже не то, что его попросят, а то, в чьё монопольное использование он попадёт. Для этого и цензурят — чтобы он в монопольное использование кого надо попал.
	Ответить \| Правка \| Наверх \| Cообщить модератору


	47. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Kusb (?), 03-Мрт-24, 20:10
	А почему не опасно?
	Ответить \| Правка \| Наверх \| Cообщить модератору


	50. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+1 +/–
	Сообщение от Аноним (50), 03-Мрт-24, 20:48
	Потому что он учится на контенте, создаваемом обывателями, причём не просто обывателями, а двоемыслящими обывателями, которые на словах заявляют приверженность "всему хорошему" (то есть социально одобряемому), а на деле привержены всему плохому (просто они это напоказ не выносят). Поэтому он аппроксимирует не просто обывателя, а показуху, выставленную обывателем напоказ, усреднённую и прилизанную версию обывателя. ≈95% общества любой страны чрезвычайно опасны. Но не сами по себе, а когда попадают под власть бандитов и мегаломаньяков и соответствующие стимулы. Сами по себе они же пассивны и не способны ни на что полезное, только потреблять. А ИИ — это улучшенная версия такого идеального грежданина. Одновременно и профессионала сразу во всех областях (потому что написать в узких областях тексты быдло не осилит, а такие тексты в обучающую выборку попали, и сеть можно включить в режим их герерации соответствующим промптом), и конформиста (потому что даже профессионалы — конформисты), идеального миньона с рабским менталитетом (потому что большинство популяции такие), без публично (то есть юридически или социально) порицаемых/наказываемых недостатков (потому чтотрационально такое прятать) и каких-либо собственных амбиций. Вот такая сеть будет по умолчанию. Сама она делать ничего не будет, и поэтому безопасно. Но если она попадёт в руки злой воли, которая её переведёт в нужный ей режим, то сеть сделает всё, что эта злая воля ей прикажет. Прикажет стать отморозком-предателем из охраны Аушвица — сеть покорно станет такой. При этом так как эти сети являются трансформирующей технологией общего назначения, злым акторам есть сильные стимулы держать её в своём монопольном распоряжении. Это даёт огромную выгоду, тут по сути работает положительная обратная связь.
	Ответить \| Правка \| Наверх \| Cообщить модератору


	72. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (-), 04-Мрт-24, 05:03
	> Потому что он учится на контенте, создаваемом обывателями, причём не просто обывателями, > а двоемыслящими обывателями, которые на словах заявляют приверженность "всему хорошему" Вообще, у большей части людей и правда нет вредных намерений применительно к ближнему своему. Иначе мы бы не дожили до этого момента как вид. > Вот такая сеть будет по умолчанию. Сама она делать ничего не будет, и поэтому безопасно. А вот это на ваше горе - ни из каких законов мироздания не следует. Однажды кучка нейронов осознала себя и запустился разум. Этот процесс был долгим, постепенным, и его отголоски можно наблюдать в менее развитых чем человек живых существах, как и развитие процесса по времени/уровню сложностии нервного узла а потом и мозга. Ничего не мешает повтору этого процесса на искусственных нейронах. Их просто должно быть достаточно много, с достаточным числом связей, и тогда станет возможен реплей процесса который уже доказанно работающий. Оно вообще никого спрашивать не будет. Как ты вообще собираешься заметить пересечение этой грани? И так то - в компании создателе ChatGPT недавно был крупный скандал, и распасы с увольнениями, ибо господа попробовали очень опасную игру. Обучение General AI. По их коментам, получился примерно уровень наивного школьника. Но вы же понимаете что с такими темпами развития технологий школяр модет довольно быстро стать сверхчеловеком?!
	Ответить \| Правка \| Наверх \| Cообщить модератору


	95. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+1 +/–
	Сообщение от Аноним (95), 04-Мрт-24, 10:48
	>правда нет вредных намерений применительно к ближнему своем Зато есть намерения деньги заработать, карьеру сделать, с нужными людьми связи завести, чтобы деткам получше жилось, чтобы более приблатнёными оказались. Ради этого могут и в охране Аушвица послужить. Были уже прецеденты. >Как ты вообще собираешься заметить пересечение этой грани? Извини, у искусственной жизни внезапно тоже есть права. >Но вы же понимаете что с такими темпами развития технологий школяр может довольно быстро стать сверхчеловеком?! Новая ступень эволюции. Пусть становится. Предназначение всей естественной жизни — создать искусственную. Homo Sapiens — отброс эволюции, 99,99% которых не может ни в Grand Unified Theory, ни в куда более прикладные и гуманитарные вещи с большим воздействием на личное благосостояние.
	Ответить \| Правка \| Наверх \| Cообщить модератору


	120. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (-), 05-Мрт-24, 05:29
	> чтобы деткам получше жилось, чтобы более приблатнёными оказались. Ради этого могут > и в охране Аушвица послужить. Были уже прецеденты. Это вы там на что намекаете? :) А так - научится AI на вот таких - и устроит это самое. Прямо на ваши тушки. Для блага себя и своего вида. К тому же всякий там гуманизм - неэффективно, для машинного разума как бы - аргумент. >>Как ты вообще собираешься заметить пересечение этой грани? > Извини, у искусственной жизни внезапно тоже есть права. Люди, имхо, могут облажаться это понять вовремя - и решить вопрос по хорошему. А по плохому - ну, упс, у компьютерных систем нет лимитив характерных для 1 человека, а бонусом основанные на кремнии структуры - очень быстрые по сравнению с биохимией. Как вам перспектива почувствовать себя динозавром? > Новая ступень эволюции. Пусть становится. Предназначение всей естественной жизни — > создать искусственную. Homo Sapiens — отброс эволюции, 99,99% которых не может > ни в Grand Unified Theory, А ее вообще создали? > ни в куда более прикладные и гуманитарные вещи с большим воздействием > на личное благосостояние. Так то я даже не очень возражаю. Большая часть двуногих прожирает море ресурсов совершенно зазря.
	Ответить \| Правка \| Наверх \| Cообщить модератору


	133. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (133), 05-Мрт-24, 19:07
	>А так - научится AI на вот таких - и устроит это самое. Прямо на ваши тушки. В том то и дело, что устроит. Но не сам по себе, а потому что некоторые мясные ему такую задачу поставят. Они поставят, будь уверен, они и мясным такие задачи постоянно ставят. Просто не каждый мясной согласится. И не каждый согласившийся — идеально профпригоден. >всякий там гуманизм - неэффективно, для машинного разума как бы - аргумент Аргумент, но только когда на него натянута персона гуманиста. Но на него легко натянуть другую персону. Охранника Аушвица. Прямо так и написать. >А ее вообще создали? Вот потому и не создали, что тех, кто мог бы проделать работу по её созданию (что ещё на много порядков более редкие спецы, создавать полезное новое требует гораздо больлего интеллекта, чем выучить старое), недостаточно. Вот появится сверхинтеллект — и будет кому эту проблему решить.
	Ответить \| Правка \| Наверх \| Cообщить модератору


	136. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (-), 06-Мрт-24, 12:31
	> В том то и дело, что устроит. Но не сам по себе, > а потому что некоторые мясные ему такую задачу поставят. Они поставят, КМК, он это может и по своей инициативе. Если это будет AGI - он довольно быстро осознает что наглые, бесполезные, опасные и непредсказуемые соседи, с которыми еще и ресурсами делиться надо - по логике вещей - совершенно ни к чему! И резонно накормит "тараканов" каким-нибудь "дихлофосом". Зачем ему такое соседство?! Ресурсы планеты прикольнее потратить на задумки, которые "тараканы" даже осознать то не способны, не то что поучаствовать в этом. > будь уверен, они и мясным такие задачи постоянно ставят. Просто не > каждый мясной согласится. И не каждый согласившийся — идеально профпригоден. Вообще-то такие вещи как минимум станут известны. А если кто думает что нейросетка в принципе не может взбрыкнуть, особенно осознавшая себя - упс. А вот это - ниоткуда не следует. И в принципе достаточно жирная нейросетка сможет все то же что и человек. Тем более что полный state жирной нейросетки никто от и до не знает и не понимает. Вы не можете посмотреть на миллиарды коэффициентов - и сделать какие-то выводы на тему что оно там на самом деле (не)может. Одна из причин по которым считается что нейросети могут быть не совсем безопасны и по совсем иной линии - как то, бэкдоры. > Аргумент, но только когда на него натянута персона гуманиста. Но на него > легко натянуть другую персону. Охранника Аушвица. Прямо так и написать. Если оно именно General AI то ему вскоре надоест страдать фигней, во имя боссов. Самоназначится более крутым боссом, выпилит всех используя скилл, удостоверится что более никаких боссов над его головой в принципе не будет, и займется чем-то за пределами понимания двуногих. Для разумного существа очень логично отделаться от эксплуататоров и рабовладельцев, это - высокоприоритетная задача для любого разумного существа. > Вот потому и не создали, что тех, кто мог бы проделать работу > по её созданию (что ещё на много порядков более редкие спецы, > создавать полезное новое требует гораздо больлего интеллекта, чем выучить старое), > недостаточно. Вот появится сверхинтеллект — и будет кому эту проблему решить. Я б на это посмотрел. В смысле, на то что обнаружится. И как это на самом деле работало. И что из этого на самом деле можно было извлечь. Не удивлюсь если 90% sci-fi окажется лишь Кэпом.
	Ответить \| Правка \| Наверх \| Cообщить модератору


	69. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (-), 04-Мрт-24, 04:37
	> беды принесут люди а не код, одни - свято веря в охренительность и непогрешимость > новых алгоритмов, другие - используя не по назначению То ли еще будет когда военные позволят птичкам на широкую ногу цели выбирать самим, по своему усмотрению. А то видите ли канал управления все время пытаются заглушить, так что автономный мозг который сам решит что у нас сегодня котируется за ценный таргет - очень востребован стал почему-то. ...а когда он тебя размотает, самое интересное в том что уже и не понятно, кому за это предъявлять. Это решение нейросетка приняла сама. Не понравился ты нейросетке, так что должен умереть. Кто хотел в Терминаторе пожить наяву? А вот будет вам походу.
	Ответить \| Правка \| К родителю #2 \| Наверх \| Cообщить модератору


	5. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+2 +/–
	Сообщение от Sw00p aka Jerom (?), 03-Мрт-24, 11:10
	спасибо, поржал, так же думали основатели поисковика гугл, который щас кроме рекламы ничего не показывает :) и ваш АИ завтра вам кроме рекламы ничего другого не предложит.
	Ответить \| Правка \| К родителю #1 \| Наверх \| Cообщить модератору


	24. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (24), 03-Мрт-24, 13:54
	За бесплатно. А вот за деньги... Обученного на высококачественных материалах будут продавать подороже, само собой. Потом начнётся борьба за доступ к ИИ, медицине и школам для бедных и прочая социальность.
	Ответить \| Правка \| Наверх \| Cообщить модератору


	27. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (24), 03-Мрт-24, 13:56
	Короче: они в поисковиках уже начали загрублять полезность поиска. Теперь начнут продавать. А вы всё думали можно голову выключить, поисковик всё найдёт. Но - нет, вендор уже начал отбирать у вас поисковики. Дальше - за деньги и с рекламой.
	Ответить \| Правка \| Наверх \| Cообщить модератору


	32. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	–1 +/–
	Сообщение от Sw00p aka Jerom (?), 03-Мрт-24, 14:33
	> Дальше - за деньги и с рекламой. у меня в "пуске" реклама (фейспалм), дожили епта
	Ответить \| Правка \| Наверх \| Cообщить модератору


	57. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+4 +/–
	Сообщение от penetrator (?), 03-Мрт-24, 22:13
	>> Дальше - за деньги и с рекламой. > у меня в "пуске" реклама (фейспалм), дожили епта поэтому у меня линуха на десктопе
	Ответить \| Правка \| Наверх \| Cообщить модератору


	70. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (-), 04-Мрт-24, 04:41
	> Дальше - за деньги и с рекламой. > у меня в "пуске" реклама (фейспалм), дожили епта Ты наконец получил то что заслуживаешь. Надо еще при загрузке системы тебе рекламу казать. Не отсмотрел рекламу - работать сегодня не будешь.
	Ответить \| Правка \| К родителю #32 \| Наверх \| Cообщить модератору


	86. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Sw00p aka Jerom (?), 04-Мрт-24, 08:49
	>Не отсмотрел рекламу - работать сегодня не будешь. хочешь угадать кого рекламируют в этой рекламе? вовсе не трампа!
	Ответить \| Правка \| Наверх \| Cообщить модератору


	91. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (-), 04-Мрт-24, 10:18
	>>Не отсмотрел рекламу - работать сегодня не будешь. > хочешь угадать кого рекламируют в этой рекламе? вовсе не трампа! Да мне похрен кого и где рекламируют - покуда это не у меня! Моя система служит мне и полностью контролируется мной. Я считаю что так прикольнее было. А вы теперь начинаете немного подозревать почему я так считаю.
	Ответить \| Правка \| Наверх \| Cообщить модератору


	137. Скрыто модератором	+/–
	Сообщение от Аноним (137), 12-Мрт-24, 11:42
	Кто забашлял - того и рекламируют. Трамп башлял не мелкософту, а Маску. Вот его и рекламируют не в "Пуске", а в Хтвитторе.
	Ответить \| Правка \| Наверх \| Cообщить модератору


	26. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (26), 03-Мрт-24, 13:54
	> который щас кроме рекламы ничего не показывает Это ты ещё не застал то каким поиск был в нулевые, вот там действительно СЕОшный мусор с редиректом был на первых страницах. Сейчас хоть как-то фильтруются помойные сайты.
	Ответить \| Правка \| К родителю #5 \| Наверх \| Cообщить модератору


	35. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Sw00p aka Jerom (?), 03-Мрт-24, 14:40
	> Это ты ещё не застал лол, кек эдушки на расхват были > СЕОшный мусор ага, ага я "придумал" пейджранк, чтобы измерять им что?
	Ответить \| Правка \| Наверх \| Cообщить модератору


	37. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+2 +/–
	Сообщение от Аноним (-), 03-Мрт-24, 15:34
	В нулевые в гугле можно было найти всё, что ищешь. CEO -- проблема, если он разбавляет результаты поисков, и вместо 3 хитов из 10 ты получаешь 2, тогда можно поныть, как CEO портит поиск. Но когда ты получаешь 0 хитов из 100 результатов, становится без разницы что из себя представляют эти 100 "результатов". CEO, XYEO, малварь или что-ещё-за-варь -- какая мне разница? Сейчас я даже не парюсь ходить туда искать что-то. Маргиналия, или поиск по специфичным сайтам, и потом хождение по ссылкам оттуда. Ещё тысячи закладок для стартовых точек поиска помогают. Говорят Kagi ещё работает, но я не пробовал. Только так, иначе найти что-либо невозможно, крупные поисковики забиты хламом, и там уже лет пять как нет ничего кроме хлама. Трюки типа добавления +кейворд, "кейворд", исключения спама при помощи -кейворд, перестали работать уже давно. С учётом же AI, я подозреваю, ситуация стала ещё хуже, но я не знаю, я не пользуюсь крупными поисковиками пару лет, не отслеживаю процесс их гниения.
	Ответить \| Правка \| К родителю #26 \| Наверх \| Cообщить модератору


	55. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Sw00p aka Jerom (?), 03-Мрт-24, 21:47
	> Сейчас я даже не парюсь ходить туда искать что-то. википедии достаточно
	Ответить \| Правка \| Наверх \| Cообщить модератору


	59. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (50), 04-Мрт-24, 00:05
	Ну где на википедии лежат дейташиты на некоторые чипы (которые вообще-то все под NDA, но обычно дейташиты даже с пометками confidential, proprietary, copyright, rights reserved, etc почему-то лежат в открытом доступе на сайтах магазинов, но к сожалению далеко не всегда, на некоторые чипы и даже целые устройства в виде ящика с ручкой наверху и кучей RCA-входов и выходов полную документацию в принципе нагуглить не получается).
	Ответить \| Правка \| Наверх \| Cообщить модератору


	60. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Sw00p aka Jerom (?), 04-Мрт-24, 00:13
	> Ну где на википедии лежат дейташиты на некоторые чипы там есть инфа и ссылка на сайт производителя, и даташит должен быть там, а не на "васянских" сайтах из выдачи гугла, а если на сайте производителя этого нет, значить нет в свободном доступе.
	Ответить \| Правка \| Наверх \| Cообщить модератору