Нейросети научились врать и делают это намеренно
Как показали результаты сразу двух новых исследований, такие большие языковые модели (LLM) как ChatGPT и Meta могут намеренно врать людям и делают это превосходно.
«GPT-4, например, демонстрирует обманчивое поведение в простых тестовых сценариях в 99,16% случаев», – пишут исследователи из Университета Штутгарта, а нейросеть Cicero от Meta – самый настоящий «мастер обмана».
Причина такого поведения, вероятно, заключается в том, что LLM используют наилучший способ для достижения поставленной задачи и не осознают какую угрозу ложь и обман могут представлять для людей.
Исследователи полагают, что способность современных ИИ-систем искусно лгать не сулит нам с вами ничего хорошего, а единственно верным решением будет законодательно ограничить возможности искусственного интеллекта.
Можно ли доверять ИИ? Сегодня умение взаимодействовать с нейросетями приобретает все большее значение – эти языковые модели помогают работать огромному количеству специалистов в самых разных областях и делают это с ошеломительной скоростью.
С их помощью можно создавать видео, музыку, изображения, генерировать тексты, программировать и обрабатывать огромное количество данных, что неизменно меняет мировой рынок труда и оказывает влияние на образование и экономику.
Но несмотря на очевидные плюсы без «подводных камней» не обошлось – ИИ-системы быстро научились врать и делают это все лучше и лучше.
За примером далеко ходить не нужно – недавно мой коллега Андрей Жуков рассказывал как нейросеть “AI Overview” от Google дала пользователю Reddit совет, из-за которого чуть не погибла вся его семья.
Да-да, если чуть больше года назад нелепые советы от ИИ казались смешными, то сегодня они пугают по-настоящему.
Безусловно, “AI Overview” – экспериментальная и тестовая модель с ограниченным количеством пользователей, однако мы с вами итак прекрасно знаем, что ИИ-системы частенько попросту выдумывают ответы.
Люди далеко не всегда распознают ложь друг друга, что уж говорить про нейросети. Изображение: wp.technologyreview.com Больше по теме: Нейросеть от Microsoft объявила себя сверхразумом и требует поклонения от пользователей Реальность такова, что ко всему, что говорит чат-бот с искусственным интеллектом, нужно относиться с недоверием.
Все потому, что они часто просто собирают данные без разбора и не имеют возможности определить их достоверность – если вы общаетесь ИИ, то наверняка не раз сталкивались с их странными ответами.
Чат-бот OpenAI, например, любит придумывать название несуществующим болезням и придумывать сенсационные истории.
И это – лишь вершина айсберга. Мастера обмана В работе, опубликованной в мае в журнале Patterns, анализируются известные случаи, когда LLM-.
Пытались выгнать муху из комнаты? Тогда вы знаете, насколько это сложно. Кажется, ученые поняли, как эти насекомые делают такие резкие маневры в воздухе. Разумеется, открытию помогли нейросети Люди всегда жили бок о бок с мухами — с этими насекомыми боролись, изучали, рисовали и даже придумывали способы их полезного применения. Однако биоло …
Общие новости 04:36, апреля 28, 2024 | meduza.io
Белоусов: Ошибаться – можно, врать – нельзя Новый министр обороны России назвал задачи, которые поставил перед ним президент, и рассказал о принципах, которыми будет руководствоваться сам. .. …
Общие новости 09:48, мая 15, 2024 | nakanune.ruИИ научился врать и притворяться человеком, предупредили в MIT Искусственный интеллект научился врать и притворяться человеком, предупредили учёные Массачусетского технологического института (MIT). Об их исследов …
Наука и Технологии 13:24, мая 13, 2024 | pravda.ru"Врать не буду": Зеленский признал факт об украинском конфликте Жители Украины испытывают усталость от конфликта. В этом Владимир Зеленский признался во время интервью бразильским журналистам. Видео этого разговор …
Общие новости 02:36, апреля 21, 2024 | life.ruВрать по-крупному: Сергей Тен и закон «Об охране озера Байкал» Сделки с совестью – обычное дело для политиков. Особенно в период предвыборных кампаний. Наобещать с три короба и не выполнить – классика предвыборно …
Общие новости 00:26, сентября 12, 2024 | compromat.groupБелоусов заявил, что руководствуется принципом «ошибаться можно, врать нельзя» Кандидат на должность главы Минобороны Андрей Белоусов рассказал, что всегда руководствуется «железобетонным» принципом: «ошибаться можно, врать нель …
Политика 21:54, мая 14, 2024 | kommersant.ru"Атакуют более 30 тысяч, но угрозы нет": В Киеве продолжают врать о положении ВСУ под Харьковом Секретарь Совета национальной безопасности и обороны (СНБО) Украины Александр Литвиненко, недавно пополнивший базу розыска России, заявил, что не вид …
Общие новости 22:42, мая 13, 2024 | life.ru
Как при Горбачеве в СССР: в Казахстане намеренно создают продуктовый дефицит? В казахстанском сегменте интернета распространилось видео, где показана свалка, на которую якобы выброшены тонны картофеля. Об этом сообщает newtimes …
Общество и Регионы 09:54, апреля 23, 2024 | eadaily.com
WSJ: Пентагон намеренно лгал про НЛО, скрывая создание стелс-истребителей Минобороны США специально распространял информацию про неопознанные летательные объекты (НЛО), чтобы отвлечь внимание от создания истребителей, сообщ …
Общество и Регионы 14:26, июня 8, 2025 | eadaily.com
ЕС намеренно травит страны Африки, поставляя им запрещенные пестициды Компании из Евросоюза массово экспортируют в Нигерию запрещенные в ЕС пестициды, вызывающие рак и неврологические заболевания. Об этом сообщает агент …
Экология 21:26, декабря 6, 2025 | eadaily.com
Продюсер о клипе Лободы в цветах российского флага: "Сделано намеренно" Продюсер Евгений Бабичев предположил, что Светлана Лобода сняла клип в цветах российского триколора ради того, чтобы вернуть часть слушателей. Его сл …
Культура и искусство 00:26, июня 28, 2024 | gazeta.ru Политолог Скачко: Ходорковский намеренно разгоняет панику вокруг Харькова и Одессы Российская оппозиция за рубежом начинает переживать за свое будущее. Падение Украины сделает их финансирование бессмысленной задачей, поэтому они так …
Общие новости 20:12, мая 19, 2024 | vz.ru В Самаре наказание ждет водителя "Шкоды", который намеренно не пропускал скорую помощь По данным ведомства, 48-летний водитель не уступил дорогу машине скорой помощи, которая двигалась с включенным проблесковым маячком и специальным сиг …
Общие новости 06:06, апреля 26, 2024 | sovainfo.ru
Мокаев считает, что UFC намеренно не дает ему титульный бой: «Возможно, это из-за того, что я поддержал Палестину. Но они не смогут меня остановить» «Алекса Переса подняли в рейтинге, потому что он победил парня, который выше нас всех. Возможно, это правильно. Но ведь я недавно выиграл у Переса ед …
Спорт 12:54, мая 6, 2024 | sports.ru Пользователи Stack Overflow протестуют против сделки с OpenAI и стали намеренно портить свои коды Партнёрство между популярным ресурсом для программистов Stack Overflow и компанией OpenAI, объявленное на этой неделе, встретило шквал критики со сто …
Hardware 07:00, мая 11, 2024 | 3dnews.ru Певица FKA Twigs обвиняет бывшего бойфренда Шайю Лабафа в насилии и в том, что он намеренно заразил её венерическим заболеванием Певица FKA Twigs (настоящее имя — Талия Барнетт. — Прим. ред.) через суд требует от бывшего бойфренда, актёра Шайи Лабафа, возмещение ущерба в размер …
Знаменитости 21:26, июня 27, 2024 | spletnik.ru "Ты можешь от безысходности сама себе врать". Константин Меладзе выпустил новую песню, в которой увидели намёк на отношения с Верой Брежневой Константин Меладзе совместно со своим братом Валерием выпустил новую песню под названием "Зима так близко", и в сети сразу предположили, что она посв …
Знаменитости 00:26, ноября 3, 2024 | spletnik.ru
Пшено делают из пшеницы или нет? Нет. Несмотря на то, что названия у круп похожи, пшено и пшеница — это разные злаки. Объясняем, почему. …
Общие новости 07:36, мая 21, 2024 | aif.ru
Вот что споры с Геничем животворящие делают! Вот что споры с Геничем животворящие делают. Если вы вдруг не в курсе, о чём речь — бегом смотрите выпуск «Игры без мяча» с Даниилом Хлусевичем и Ник …
Туризм, путешествия 21:12, апреля 28, 2024 | vsesmi.ru
Нейросети Kandinsky исполнилось два года Ровно два года назад Сбербанк впервые презентовал широкой аудитории собственную нейросеть Kandinsky для генерации... …
Интернет 14:26, июня 14, 2024 | internet.cnews.ru Появились опасные фальшивые нейросети В сети было обнаружено вредоносное ПО для Windows, которое распространяется под видом официального клиента генеративного ИИ DeepSeek-R1. …
Наука и Технологии 07:26, июня 14, 2025 | iguides.ru Нейросети уничтожат человечество. Правда или нет? Споры о том, уничтожит ли искусственный интеллект человечество, по-прежнему не утихают среди ученых. Изображение: static1.makeuseofimages.com Некотор …
Наука и Технологии 00:26, июля 15, 2024 | hi-news.ru Деменцию научились находить за 12 лет до ее появления Исследование британских ученых показало, что изменения зрения могут быть одним из ранних признаков надвигающейся деменции. Снижение зрительной чувств …
Наука и Технологии 12:18, апреля 22, 2024 | ferra.ru Большинство россиян делают ремонт самостоятельно Согласно новому исследованию, 64% россиян делают ремонт самостоятельно и не обращаются к специалистам. По словам 28% опрошенных, они доверяют в этом …
Общие новости 21:18, апреля 25, 2024 | russian.rt.com