Разработан метод предотвращения галлюцинаций больших языковых моделей

Разработан метод предотвращения галлюцинаций больших языковых моделей
Большие языковые модели (LLM), такие как ChatGPT, научились генерировать тексты, почти не отличимые от написанных человеком, и давать убедительные ответы. Но иногда случаются сбои, и тогда на вполне внятный запрос нейросеть выдаёт какую-то белиберду.

Это явление получило название галлюцинации LLM. К нему же относятся связные ответы ИИ, содержащие искажённые или даже выдуманные факты. Исследователи из DeepMind недавно разработали способ борьбы с такими реакциями LLM. Процедура подразумевает сам.

Опубликовано: 11:42, мая 23, 2024 Рубрика: Наука и Технологии Источник: www.pravda.ru Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit
 
 
Google TPU Trillium: для больших языковых моделей ИИ

Google TPU Trillium: для больших языковых моделей ИИ На вчерашней конференции Google I/O основное внимание было уделено моделям искусственного интеллекта Gemini , которые должны работать на устройствах …

Наука и Технологии 18:12, мая 15, 2024 | hardwareluxx.ru
МГУ о применении мультимодальных больших языковых моделей в видеоаналитике

МГУ о применении мультимодальных больших языковых моделей в видеоаналитике Ученые МГУ провели исследование по проблеме перевода видео в текст, что позволит значительно сократить время... …

Интернет и Игры 09:12, июня 13, 2024 | cnews.ru
GPT на языке бизнеса: особенности применения больших языковых моделей

GPT на языке бизнеса: особенности применения больших языковых моделей Использование больших языковых моделей для генерации контента популярно не только среди частных пользователей, но и в бизнес-среде. Эксперты ИТ-компа …

Наука и Технологии 00:26, декабря 22, 2024 | ict-online.ru
Яндекс открыл доступ к библиотеке для обучения больших языковых моделей

«Яндекс» открыл доступ к библиотеке для обучения больших языковых моделей «Яндекс» открыл доступ для всех желающих к собственно разработанной библиотеке YaFSDP для обучения больших языковых моделей, сообщает пресс-служба ко …

Бизнес и Промышленность 16:48, июня 11, 2024 | finam.ru
Исследователи предупреждают о гендерной и культурной предвзятости больших языковых моделей ИИ

Исследователи предупреждают о гендерной и культурной предвзятости больших языковых моделей ИИ Согласно исследованию, проведенному по заказу ЮНЕСКО, популярные инструменты генеративного искусственного интеллекта, такие как GPT-3.5, GPT-2 и Llam …

Гаджеты 22:00, апреля 18, 2024 | gagadget.com
Яндекс открывает библиотеку YaFSDP для обучения больших языковых моделей

«Яндекс» открывает библиотеку YaFSDP для обучения больших языковых моделей Компания «Яндекс» выложила в опенсорс библиотеку YaFSDP, которая ускоряет обучение больших языковых моделей — как собственной разработки, так и сторо …

Наука и Технологии 19:30, июня 12, 2024 | xakep.ru
Grok 3 против ChatGPT: больше языковых моделей хороших и разных

Grok 3 против ChatGPT: больше языковых моделей хороших и разных Илон Маск на днях сообщил, что его стартап xAI выпустил новую версию чат-бота Grok 3, и назвал его «самым умным ИИ на Земле». …

Наука и Технологии 07:26, июня 23, 2025 | ict-online.ru
Tiiny AI показала карманный суперкомпьютер для ИИ, который тянет миллиарды языковых моделей локально

Tiiny AI показала карманный суперкомпьютер для ИИ, который тянет миллиарды языковых моделей локально Американский стартап Tiiny AI представил Pocket Lab — миниатюрный персональный суперкомпьютер, который помещается в ладони, весит около 300 г и спосо …

Наука и Технологии 00:26, декабря 14, 2025 | ichip.ru
DeepL запустила ИИ-помощника для написания деловых текстов на базе собственных языковых моделей

DeepL запустила ИИ-помощника для написания деловых текстов на базе собственных языковых моделей Компания DeepL, известный разработчик систем машинного перевода, представила нового ИИ-ассистента DeepL Write Pro для помощи в составлении деловых те …

Гаджеты 04:54, мая 1, 2024 | gagadget.com
Разработан новый метод создания костных имплантатов

Разработан новый метод создания костных имплантатов Исследователи предложили новый подход к созданию имплантатов для восстановления костной ткани, используя бактериальную целлюлозу и метод 3D-печати.Ба …

Наука и Технологии 12:48, апреля 17, 2024 | ferra.ru
В вузе разработан метод для повышения качества бурильных труб

В вузе разработан метод для повышения качества бурильных труб В Саратове разработан метод для повышения качества бурильных труб.По информации СГТУ, ученые вуза совершили прорыв, создав технологию моделирования ц …

Общество и Происшествия 19:54, апреля 22, 2024 | news.sarbc.ru
В США разработан законопроект, который позволит ограничивать экспорт моделей ИИ

В США разработан законопроект, который позволит ограничивать экспорт моделей ИИ Американские парламентарии разработали законопроект, который облегчит администрации президента установление экспортного контроля над моделями искусст …

Hardware 07:00, мая 11, 2024 | 3dnews.ru
Разработан метод выделения водорода прямо в газовых месторождениях с выходом до 45%

Разработан метод выделения водорода прямо в газовых месторождениях с выходом до 45% Учёные из Сколковского института науки и технологий предложили перерабатывать природный газ без его подъёма на поверхность — прямо внутри месторожден …

Наука и Технологии 17:42, июня 5, 2024 | pravda.ru
Разработан быстрый метод синтезирования тонких пленок для гибкой электроники

Разработан быстрый метод синтезирования тонких пленок для гибкой электроники Ученые из университета Гонконга совершили прорыв в области гибкой электроники, разработав сверхбыстрый и недорогой способ синтезирования тонких плено …

Наука и Технологии 05:12, мая 17, 2024 | ferra.ru
Разработан метод превращения 3D-печатного полимерного имплантата в живую костную ткань

Разработан метод превращения 3D-печатного полимерного имплантата в живую костную ткань Исследователи Северно-Западного университета разработали уникальный материал, который позволяет печатать искусственные кости. …

3D Печать 19:06, апреля 30, 2024 | 3d-expo.ru
Новый метод улучшает реконструкцию сцены для тестирования моделей автономного вождения

Новый метод улучшает реконструкцию сцены для тестирования моделей автономного вождения Разработка транспортных средств, которые могут безопасно работать без водителя-человека, была ключевой целью многих команд в сообществе исследователе …

Software 00:26, декабря 18, 2024 | android-robot.com
BMW показала в Китае 15 моделей, включая BMW i4 и Neue Klasse. В этом году будет представлено 20 моделей

BMW показала в Китае 15 моделей, включая BMW i4 и Neue Klasse. В этом году будет представлено 20 моделей На автосалоне в Пекине BMW и Mini представили модельный ряд из пятнадцати моделей автомобилей. От компактных автомобилей начального уровня до больших …

Наука и Технологии 10:48, апреля 29, 2024 | ixbt.com
Ассоциация больших данных представила Стратегию развития рынка больших данных 2030

Ассоциация больших данных представила Стратегию развития рынка больших данных 2030 По итогам 2024 года российский рынок больших данных составил 433 млрд рублей против прогнозировавшихся 319 млрд рублей. …

Общие новости 21:26, ноября 22, 2025 | susanin.news
От героизма до галлюцинаций: как 60 часов без сна превратились в научную сенсацию

От героизма до галлюцинаций: как 60 часов без сна превратились в научную сенсацию В 1920-е годы Америка жила идеей прогресса: фабрики работали круглосуточно, студенты соревновались за место под солнцем, а учёные пытались понять, гд …

Наука и Технологии 14:26, ноября 4, 2025 | pravda.ru
Apple не может на 100 % гарантировать отсутствие галлюцинаций у фирменного ИИ, заявил Тим Кук

Apple не может на 100 % гарантировать отсутствие галлюцинаций у фирменного ИИ, заявил Тим Кук Активное развитие систем искусственного интеллекта позволило выявить довольно странные результаты обработки пользовательских запросов, когда клей вкл …

Software 20:54, июня 12, 2024 | 3dnews.ru
ChatGPT довёл человека до психоза и галлюцинаций всего одной фразой

ChatGPT довёл человека до психоза и галлюцинаций всего одной фразой 60-летний американец, придерживавшийся вегетарианской диеты, решил вдобавок полностью отказаться от соли и спросил у ChatGPT, чем её можно заменить …

Наука и Технологии 00:26, августа 10, 2025 | iguides.ru
Госдума ужесточила выдачу языковых сертификатов иностранцам

Госдума ужесточила выдачу языковых сертификатов иностранцам Госдума сразу во втором и третьем чтении приняла закон, который вводит исключительное право госучреждений проводить языковые экзамены для мигрантов. …

Общество и Регионы 00:26, октября 30, 2024 | kommersant.ru
IBS разработала систему для предотвращения и устранения SoD-конфликтов

IBS разработала систему для предотвращения и устранения SoD-конфликтов Группа компаний IBS разработала программный комплекс для блокирования несанкционированного доступа к информационным... …

Интернет и Игры 14:26, октября 22, 2024 | cnews.ru
Учёные Сколково и AIRI придумали, как ускорить работу языковых нейросетей

Учёные Сколково и AIRI придумали, как ускорить работу языковых нейросетей Российские ИТ-специалисты смогли ускорить работу языковых нейросетей на 10-15% Российские учёные обнаружили новое свойство больших языковых моделей, …

Наука и Технологии 16:18, июня 2, 2024 | ferra.ru