Чат-боты на основе искусственного интеллекта остаются самоуверенными даже тогда, когда ошибаются
И люди, и LLM, как правило, были слишком самоуверенны в своих гипотетических результатах.
Примечательно, что они также отвечали на вопросы или распознавали изображения с относительно схожей вероятностью успеха.
Однако, согласно исследованию, опубликованному в журнале Memory & Cognition, когда участников и магистров права задним числом спросили, насколько хорошо, по их мнению, они справились, только люди оказались способны скорректировать ожидания.
«Предположим, люди сказали нам, что ответят правильно на 18 вопросов, а в итоге ответили правильно на 15.
Обычно их оценка впоследствии составляла около 16 правильных ответов », — сказал Трент Кэш, недавно получивший совместную докторскую степень в Университете Карнеги-Меллона на кафедрах науки о социальных решениях и психологии.
«То есть они всё равно были немного самоуверенны, но не настолько».
«Студенты магистратуры права этого не делали», — сказал Кэш, ведущий автор исследования. «Они, скорее, становились более самоуверенными, даже когда не очень хорошо справлялись с заданием».
Кэш признал, что мир ИИ стремительно меняется с каждым днем, поэтому делать общие выводы о его применении становится все сложнее. Однако одним из преимуществ исследования стало то, что данные собирались в течение двух лет, что означало использование постоянно обновляемых версий LLM, таких как ChatGPT, Bard/Gemini, Sonnet и Haiku.
Это означает, что чрезмерная уверенность ИИ в своих действиях обнаруживалась в разных моделях с течением времени.
«Когда ИИ говорит что-то подозрительное, пользователи могут быть не столь скептичны, как следовало бы, потому что ИИ дает уверенный ответ, даже если эта уверенность необоснованна», — говорит Дэнни Оппенгеймер, профессор кафедры социальных наук и принятия решений Карнеги-Меллона и соавтор исследования.
«Люди эволюционировали с течением времени и с рождения учились интерпретировать сигналы уверенности, подаваемые другими людьми.
Если я хмурюсь или медлю с ответом, вы можете заметить, что я не всегда уверен в том, что говорю, но с ИИ у нас не так много подсказок о том, понимает ли он, о чём говорит», — сказал Оппенгеймер.
Задаем ИИ правильные вопросы Хотя точность ответов магистров права на вопросы викторины и прогнозирования результатов футбольных матчей относительно невелика, исследование указывает на подводные камни, связанные с интеграцией этих технологий в повседневную жизнь.
Например, недавнее исследование, проведённое BBC, показало, что когда магистрам пр.
В Татарстане появятся новые решения на основе искусственного интеллекта Технологический партнер госкорпорации «Ростех», компания NtechLab, подписала соглашения с правительством Республики... …
Интернет и Игры 10:54, июня 7, 2024 | cnews.ruAmazon запустил функцию генеративного плейлиста на основе искусственного интеллекта Amazon Music присоединяется к Spotify и начинает предлагать функцию генеративного плейлиста на основе искусственного интеллекта. Пока что Maestro дос …
Наука и Технологии 21:12, апреля 16, 2024 | itzine.ruMicrosoft расширяет возможности своего помощника на основе искусственного интеллекта Компания Microsoft удвоила усилия по внедрению искусственного интеллекта в жизнь потребителей, выпустив обновленную версию своего чат-бота Copilot, к …
Software 00:26, октября 16, 2024 | android-robot.comАнализ походки на основе искусственного интеллекта объединяет сферы здравоохранения и безопасности Анализ индивидуальной походки человека может раскрыть подробности его личности и отразить различия между отдельными людьми, группами и даже популяция …
Интернет и Игры 14:26, января 1, 2025 | android-robot.comМетод на основе искусственного интеллекта повышает надежность сетей следующего поколения По мере расширения сетей 5G и 6G они обещают будущее невероятно быстрых и надежных беспроводных соединений. Ключевой технологией, стоящей за этим, яв …
Software 21:26, февраля 13, 2025 | android-robot.comУстройства Amazon Fire TV получают обновлённый поиск на основе искусственного интеллекта Компания Amazon внедрила нововведение для пользователей своих устройств Fire TV — поиск на основе искусственного интеллекта. Теперь владельцы F …
Гаджеты 05:18, июня 2, 2024 | gagadget.comСистема предотвращения утопления на основе искусственного интеллекта повышает безопасность на воде Исследователи из Института физических наук Хэфэй Китайской академии наук разработали высокотехнологичную систему предотвращения и спасения утопающих …
Наука и Технологии 21:26, ноября 10, 2024 | android-robot.comАлгоритм на основе искусственного интеллекта позволяет персонализировать возрастную трансформацию человеческих лиц Исследователи из Университета Северной Каролины в Чапел-Хилл и Университета Мэриленда недавно разработали MyTimeMachine (MyTM) — новый метод персонал …
Интернет и Игры 14:26, января 1, 2025 | android-robot.com
«Газпром-Медиа Холдинг» выпустил первый мульткаст на основе искусственного интеллекта Студия нейропродакшена «Газпром-Медиа Холдинга» D.lab совместно с ГПМ Радио разработали и выпустили первый анимированный... …
Интернет и Игры 06:36, мая 29, 2024 | cnews.ru
Чат-боты на основе искусственного интеллекта снимают смущение, но люди лучше справляются с гневом Многие люди испытывали разочарование, когда имели дело с чат-ботами на основе искусственного интеллекта для поддержки клиентов или технической помощи …
Software 07:26, февраля 28, 2025 | android-robot.com Чат-боты на основе искусственного интеллекта могут сдавать сертифицированные экзамены по этическому хакингу Чат-боты на базе искусственного интеллекта (ИИ) могут пройти экзамен по кибербезопасности, но не стоит полагаться на них для полной защиты. Такой выв …
Наука и Технологии 14:26, июля 18, 2024 | android-robot.com Технология прогнозирования слабоумия на основе искусственного интеллекта использует автоматическое распознавание речи Исследователи из Южной Кореи разработали технологию на основе искусственного интеллекта, которая может анализировать голос/речь пожилых людей для скр …
Наука и Технологии 21:26, ноября 10, 2024 | android-robot.com Итоги главной дискуссии AI Journey: решения на основе искусственного интеллекта — основа технологического суверенитета страны На конференции AI Journey Президент РФ Владимир Путин рассказал о своём видении развития главной технологии XXI века и поддержал новых членов Междуна …
Общие новости 21:26, ноября 22, 2025 | susanin.news Черновую работу в сфере искусственного интеллекта можно передать на аутсорсинг с помощью новой платформы на основе блокчейна Рабочее место завтрашнего дня будет работать на ошеломляющих объемах данных. Чтобы разобраться во всем этом, предприятиям, разработчикам и отдельным …
Software 14:26, сентября 21, 2024 | android-robot.com Bitget объединяет усилия с Sumsub для обновления проверки KYC на основе искусственного интеллекта для борьбы с безудержными преступлениями, связанными с дипфейками /div> Bitget, известная биржа криптовалют и игрок индустрии Web3, рада объявить о расширении сотрудничества с Sumsub, поставщиком услуг комплексной п …
Крипто 21:00, июня 5, 2024 | cryptobrokers.ru Ошибаются даже опытные хозяева: самые главные просчеты в путешествии с собакой Многие не хотят расставаться со своими четвероногими друзьями даже во время отпуска. Хозяева стараются планировать путешествие так, чтобы собака тоже …
Общие новости 12:06, июня 5, 2024 | 5-tv.ru
«Первый Бит» открыл лабораторию искусственного интеллекта На базе интегратора ИТ-решений «Первый Бит» открылась лаборатория искусственного интеллекта (ИИ) – новое подразделение... …
Интернет и Игры 21:26, ноября 3, 2024 | cnews.ru
У искусственного интеллекта обнаружили любимые числа В новом исследовании, проведенном аналитиками компании Gramener, стало ясно, что различные ИИ-модели предпочитают одни и те же числа при выборе случа …
Наука и Технологии 16:42, мая 30, 2024 | astera.ru Ученые разработали чип для телекоммуникаций и искусственного интеллекта Команда из Лаборатории фотоники (PRL)-iTEAM Политехнического университета де Валенсии и компании iPRONICS создали чип для телекоммуникаций, центров о …
Наука и Технологии 23:54, апреля 15, 2024 | ferra.ru AMD представила новые процессоры для искусственного интеллекта AMD представила новые процессоры Ryzen 9000 для ПК и Ryzen AI 300 для ноутбуков. Новые чипы обещают пользователям высокую производительность и поддер …
Наука и Технологии 06:42, июня 4, 2024 | ferra.ru Spinncloud представляет SpiNNaker2: чип искусственного интеллекта В рамках проекта Human Brain Project, запущенного Манчестерским университетом, компанией Spinncloud был создан ИИ-процессор SpiNNaker (Spiking Neural …
Наука и Технологии 16:24, мая 15, 2024 | hardwareluxx.ru
Маск пригрозил Apple из-за искусственного интеллекта Компани предпринимателя и миллиардера из США Илона Маска могут отказаться от устройств Apple. Дело в том, что корпорация ввела технологии искусственн …
Общие новости 02:36, июня 11, 2024 | ura.news
Advantech IPC-730 – ПК для задач в сфере искусственного интеллекта Компания Advantech представила IPC-730 – промышленный компьютер для различных задач искусственного интеллекта: машинное... …
Интернет и Игры 21:26, ноября 3, 2024 | cnews.ru