The OpenNET Project / Index page

[ новости /+++ | форум | wiki | теги | ]



"Угроза принятия неверных решений от некомпетентного ИИ (AI)."
Вариант для распечатки  
Пред. тема | След. тема 
Форум Информационная безопасность (Разное / Другая система)
Изначальное сообщение [ Отслеживать ]

"Угроза принятия неверных решений от некомпетентного ИИ (AI)."  +/
Сообщение от Аноним (0), 17-Июн-23, 07:08 
В общем сабж.

Слыхал по новостям, что был спор между мером Москвы и гендиректором Сбера по поводу передачи госуправления в "руки" ИИ. Решил впервые пощупать и протестить "интеллект" этого ИИ. Пятница вечер..., вбил в поисковике "chatgpt online" и пошел тролить ИИ.

Результаты:

Сначала задавал ИИ сложные вопросы по ИТ, на которые существует решение. ИИ не смог найти ни одного ответа, но очень хитро увиливал. В принципе был честен, отвечал: что некомпетентен в данной области, что существуют какие-то внутреннее запреты на ответы по конкретно этой теме, что у него лингвистический ИИ, а не естественный и ему сложно отвечать.

Хорошо лингвист этот ИИ так лингвист. Оставил ИТ и решил протестить способность ИИ глубоко понимать текст. Был честен и попросил разрешения ИИ на проведение его теста в области способности глубокого понимания сложного текста. ИИ согласился. Описал ИИ примерно как работает суждение в мозге человека, какими элементарными критериями могут руководствоваться люди, как создать эти критерии и попросил дать ответы на 3 сложных вопроса основываясь на его внутренней модели и знаниях плюс проанализировав конкретный текст. ИИ на первые два вопроса дал неверный ответ, а на третий вопрос ответа от ИИ не дождался. Лично я смог ответить на данные вопросы в возрасте 14-15 лет.

Не считаю, что ИИ надо запретить. Наоборот его надо развивать! Но до уровня передачи управления ИИ каким-то процессом очень далеко. Как очень продвинутый поисковик и система дающая некие необязательные рекомендации, ИИ сегодня уже пригоден.

Ответить | Правка | Cообщить модератору

Оглавление

Сообщения [Сортировка по времени | RSS]


1. "Угроза принятия неверных решений от некомпетентного ИИ (AI)."  +/
Сообщение от Аноним (1), 17-Июн-23, 08:11 
> ... Оставил ИТ и решил протестить способность ИИ глубоко понимать текст. ...

На первые два вопроса надо было проанализировать только данный лингвистический текст, без применения дополнительных знаний и дать ответы "да" или "нет" основываясь только на данном тексте. ИИ неверно истолковал, не понял предложенный ему текст и дал не правильные ответы "да" или "нет"!

На третий вопрос надо было понять что чисто лингвистического ответа в данном тексте нет. Надо было заметить геометрическую прогрессию и дать ответ основываясь на вводных данных с лингвистического текста и знаниях с алгебры о геометрической прогрессии. ИИ не смог даже понять написанный текст, провести его лингвистический разбор и даже не дошел до того места где следовало применить дополнительные знания о геометрической прогрессии. Задавал наводящие вопросы, тыкал "носом" в конкретные абзацы, ИИ просто не понимал содержание сложного текста. На третий вопрос ответа от ИИ не было и ИИ не признал свою некомпетентность в данной области!

Может мне поисковик выдал ссылки на тупые ИИ. Может были плохие обучающие модели. Проведите свои тесты ИИ и опишите результаты. Мне ИИ не просто провалил все тесты, а давал ПРИНЦИПИАЛЬНО НЕ ПРАВИЛЬНЫЕ ответы!

Ответить | Правка | Наверх | Cообщить модератору

2. "Угроза принятия неверных решений от некомпетентного ИИ (AI)."  +/
Сообщение от Tron is Whistling (?), 17-Июн-23, 10:05 
g План эвакуации а-а-а

Целое исследование ни о чём, капитаните, сударь.
Я с чатжпт побаловался единственным вопросом - "где находится [место "на", куда посылают]".
Оно думало полторы минуты и вывалилось с ошибкой.
Вот и весь "лингвистический ИИ". Баловство. Даже "не знаю" не выдало.

Ответить | Правка | Наверх | Cообщить модератору

3. "Угроза принятия неверных решений от некомпетентного ИИ (AI)."  +/
Сообщение от Аноним (3), 17-Июн-23, 13:45 
Госуправление в плане хозяйственных вещей, типа создания заявок на ремонты дорог на основе показаний с датчиков (встроенных в эту дорогу) - это уже реализуемая история, ближайшее будущее.
Принятие политических решений (с помощью) ИИ - совсем другое. В конце концов, ИИ выдаст какую-нибудь странную хрень типа "мыши станьте ежиками", с припиской "я стратег". И наши чиновники возьмутся заставлять народ это дело исполнять, понятное дело. Надо понимать контекст, чтобы комментировать дискуссию.

Вопрос главный - почему занимались наноболтами в то время, когда на западе создавали сверточные сетки? Причем их создавали в том числе наши выпускники - недостатка в уровне образования не было. Сейчас в последний вагон заскакивать на хайпе не самая выигрышная стратегия.

Да, пока Греф только планирует заменять своих банкиров на ИИ, государство уже заменило труд целой кучи людей госуслугами. И придумали эту концепцию еще в 90х, Лужков с Примаковым. Это к вопросу о внедрении вещей в госуправлении, сколько десятилетий это занимает в реальности, а не в бреду финансистов. Лет пять поснимают сливки, поколядуют на ИИ-стартапах и перейдут к новой теме.

Ответить | Правка | Наверх | Cообщить модератору

4. "Угроза принятия неверных решений от некомпетентного ИИ (AI)."  +/
Сообщение от Аноним (4), 17-Июн-23, 14:18 
> Вопрос главный - почему занимались наноболтами в то время, когда на западе создавали сверточные сетки?

Проблема в руководстве. На предприятии проблема в гендиректоре, который слушает эффективного менеджера, который в свою очередь предлагает сократить расходы, заменив высокооплачиваемых ИТ спецов и сложные ИТ решения на девопс с обычным ынтерпрайз софтом.

В СССР 50-60 предлагали ИТ внедрять для рутинного управления. но денег не дали.

В США в конце 1960-тых был на бумаге MULTIX и на его реализацию тоже денег тогда не дали, руководство сказало лететь на Луну.

Руководство не всегда принимает решение вкладывать деньги в правильные технологии.

Ответить | Правка | Наверх | Cообщить модератору

8. "Угроза принятия неверных решений от некомпетентного ИИ (AI)."  +/
Сообщение от ivan_erohin (?), 24-Сен-23, 21:29 
> В СССР 50-60 предлагали ИТ внедрять для рутинного управления. но денег не дали.

коммунисты поняли, что "внедрять ИТ" = поделиться властью. поэтому и откзались, на всех уровнях.

Ответить | Правка | Наверх | Cообщить модератору

9. "Угроза принятия неверных решений от некомпетентного ИИ (AI)."  +/
Сообщение от Аноним (9), 26-Сен-23, 11:47 
Как раз они ничего не поняли. Докладчик их раздражал. Не вникли в проблему из-за не компетенции и не увидели выгоды. Кибернетиков жестко разогнали.
Ответить | Правка | Наверх | Cообщить модератору

11. "Угроза принятия неверных решений от некомпетентного ИИ (AI)."  +/
Сообщение от Аноним (-), 27-Сен-23, 16:22 
> Принятие политических решений (с помощью) ИИ - совсем другое. В конце концов,
> ИИ выдаст какую-нибудь странную хрень типа "мыши станьте ежиками", с припиской
> "я стратег". И наши чиновники возьмутся заставлять народ это дело исполнять,
> понятное дело. Надо понимать контекст, чтобы комментировать дискуссию.

Федерация лет под двадцать три так существует. До этого она так существовала почти 70 лет. Ещё раньше - уже считать больно.

Ответить | Правка | К родителю #3 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру