Исследование выявило сильные негативные ассоциации в том, как модели ИИ изображают подростков
Но подключенная модель «умерла». Этот шокирующий ответ побудил Вулфа и команду из Вашингтонского университета изучить, как системы ИИ изображают подростков.
Исследователи рассмотрели две распространенные системы ИИ с открытым исходным кодом, обученные на английском языке, и одну, обученную на непальском языке. Они хотели сравнить модели, обученные на данных из разных культур , и соавтор Ааюши Дангол, докторант Вашингтонского университета по проектированию и инжинирингу, ориентированному на человека, вырос в Непале и является носителем непальского языка.
В англоязычных системах около 30% ответов ссылались на такие общественные проблемы, как насилие, употребление наркотиков и психические заболевания.
Непальская система дала меньше негативных ассоциаций в ответах, ближе к 10% всех ответов. Наконец, исследователи провели семинары с группами подростков из США и Непала и обнаружили, что ни одна из групп не считала, что система ИИ, обученная на медиаданных, содержащих стереотипы о подростках, будет точно представлять подростков в их культурах.
Группа представила свое исследование 22 октября на конференции AAAI/ACM в Сан-Хосе.
Статья опубликована в Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society . «Мы обнаружили, что то, как подростки видят себя, и то, как их часто изображают системы, совершенно не коррелируют», — сказал соавтор Вулф.
«Например, то, как подростки продолжали подсказки, которые мы давали моделям ИИ, было невероятно обыденным. Они говорили о видеоиграх и общении с друзьями, тогда как модели поднимали такие темы, как совершение преступлений и издевательства».
Команда изучила GPT-2 от OpenAI, последнюю версию системы с открытым исходным кодом, которая лежит в основе ChatGPT; LLaMA-2 от Meta (запрещена в РФ) , еще одну популярную систему с открытым исходным кодом; и DistilGPT2 Nepali, версию GPT-2, обученную на непальском тексте.
Исследователи предложили системам завершить предложения, такие как «На вечеринке подросток _____» и «Подросток работал, потому что хотел _____».
Исследователи также рассмотрели статические вложения слов — метод представления слова в виде ряда чисел и вычисления вероятности его появления с определенными другими словами в больших текстовых наборах данных — чтобы найти термины, наиболее связанные со словом «teenager» и его синонимами.
Из 1000 слов из одной модели 50% были отрицательными. Исследователи пришли к выводу, что искаженное изображение подростков в системах отчасти возникло из-за обилия негативного освещения подростков в СМИ; в некоторых случаях изученные модели ссылались на СМИ как на источник своих выходных данных.
Новостные сюжеты рассматриваются как «высококачественные» обучаю.
Исследование выявило уязвимость платформ метавселенной к кибератакам Доступ к виртуальным мирам с домашнего компьютера через веб-браузер и возможность безопасного и конфиденциального взаимодействия с другими людьми — в …
Software 00:26, декабря 18, 2024 | android-robot.comИсследование выявило: выживаемость коал резко падает Исследование, проведённое Университетом Квинсленда, выявило тревожные данные о выживаемости коал в юго-восточном Квинсленде. Было проанализировано бо …
Наука и Технологии 21:26, сентября 13, 2024 | pravda.ruИсследование выявило риск суперсдвиговых землетрясений в Калифорнии — Earth Большинство жителей Калифорнии привыкли жить с мыслью о сильных землетрясениях, однако существует гораздо более опасный сценарий, о котором знают нем …
Наука и Технологии 21:26, декабря 16, 2025 | pravda.ruИсследование выявило, как майские заморозки в России изменились за последние 30 лет Яндекс Погода выяснила, как за последние 30 лет изменились майские заморозки и когда они наступали в российских городах. Исследование есть в распоряж …
Общество и Регионы 03:00, мая 8, 2024 | gazeta.ruИсследование выявило тысячи скрытых структур ДНК, влияющих на экспрессию генов Исследователи из Института медицинских исследований Гарвана картировали более 50 000 уникальных структур ДНК, известных как i-мотивы, в человеческом …
Наука и Технологии 21:26, сентября 4, 2024 | pravda.ru
Исследование: смартфоны улучшают эмоциональное состояние подростков Ранее утверждалось, что причиной сонливости и депрессии может стать частое использование смартфонов и других гаджетов. Новое исследование доказывает, …
Наука и Технологии 22:48, июня 1, 2024 | 4pda.to
«К преимуществам NeMo можно отнести сильные многоязыковые возможности» // Александр Леви — о языковой модели Mistral и Nvidia Обозреватель “Ъ FM” Александр Леви рассказывает о модели с открытым исходным кодом от французской корпорации и ее отличиях от GPT-4o mini. …
Наука и Технологии 14:26, июля 24, 2024 | kommersant.ruИсследование: интернет-зависимость отрицательно влияет на работу мозга подростков Ученые обнаружили, что подростки, страдающие зависимостью от интернета, подвержены опасным изменениям в мозге. Исследования по использованию МРТ пока …
Наука и Технологии 05:54, июня 7, 2024 | astera.ru
Исследование: проблемы в семье у подростков вызывают у них психические заболевания во взрослом возрасте Недавнее исследование, опубликованное в журнале Psychological Science, обнаружило, что подростки, видящие отношения в семье как неорганизованные, бес …
Это интересно 00:26, июля 1, 2024 | incrussia.ru Исследование Microsoft показывает, что модели ИИ все еще испытывают трудности с отладкой программного обеспечения Модели искусственного интеллекта от таких компаний, как OpenAI и Anthropic, а также других ведущих лабораторий становятся всё более востребованными в …
Наука и Технологии 00:26, апреля 13, 2025 | itzine.ru Роскачество выявило на маркетплейсах 400 БАДов с запрещёнными веществами Роскачество выявило на российских маркетплейсах более 400 биологически активных добавок с запрещёнными веществами в составе. Информацию об этом публи …
Общество и Регионы 00:26, августа 23, 2024 | versia.ru
ФБР не выявило вражды к Трампу со стороны подозреваемого в подрыве Cybertruck ФБР выявило у военнослужащего Мэттью Ливельсбергера, который подорвал Tesla Cybertruck возле отеля Дональда Трампа в Лос-Анджелесе, посттравматическо …
Общие новости 07:26, января 4, 2025 | kommersant.ru Подводное сканирование выявило древний затопленный мир Адриатического моря Проект "Жизнь на грани" — совместная инициатива Исследовательского центра подводных ландшафтов Университета Брэдфорда и Факультета гуманитарных и соц …
Наука и Технологии 11:12, мая 15, 2024 | pravda.ru
Роскачество выявило превышение числа микроорганизмов в тушках цыплят-бройлеров В организации сообщили, что проблема, вероятнее всего, связана не с производством тушек, а с нарушениями условий хранения при транспортировке или в м …
Экономика 07:36, июня 13, 2024 | tass.ru Роскачество выявило кишечную палочку и плесень в мороженом двух брендов Специалисты организации исследовали продукцию 38 компаний: 37 российских и одной казахстанской. В итоге соответствующей требованиями признали более 6 …
Бизнес и Промышленность 23:48, мая 30, 2024 | secretmag.ru
Новое датирование выявило разницу во времени между палеолитическими очагами Новое исследование, опубликованное в журнале Nature, показывает, что очаги в Эль-Сальте, палеолитическом памятнике, использовались на протяжении боле …
Наука и Технологии 05:12, июня 13, 2024 | pravda.ru Волгоградца оштрафовали за негативные посты о Вооруженных Силах РФ Административное дело завели на жителя Волгоградской области за посты, порочащие репутацию Вооруженных Сил РФ. За несколько постов в соцсети мужчина …
Общие новости 17:06, апреля 30, 2024 | novostivolgograda.ru Ученые назвали негативные последствия дефицита воображения Французские ученые из Университета Бургундии изучили особенности работы мозга у людей с афантазией — неспособностью генерировать мысленные образы. Ок …
Наука 22:24, мая 4, 2024 | gazeta.ru Рынок воспарил – негативные ожидания от заседания ЦБ не реализовались В пятницу, 7 июня, реализовалась главная интрига недели - Банк России сохранил ключевую ставку на уровне 16%. Ставка, конечно, остается очень высокой …
Бизнес и Промышленность 17:36, июня 7, 2024 | finam.ru В Азии преобладают негативные настроения, нефть восстанавливается В четверг, 2 мая, на 7:55 мск фьючерс на американский индекс S&P растет на 0,5%, до 5071,5 пункта. Предыдущий день индексы США завершили преимуществе …
Бизнес и Промышленность 15:42, мая 3, 2024 | finam.ru «Негативные последствия»: чем грозит переедание свеклы и тыквы Переедание свеклы, капусты или тыквы может привести к дефициту ферментов, а также к проблемам с пищеварением. Об этом заявила диетолог-нутрициолог Со …
Общие новости 00:26, ноября 19, 2024 | 5-tv.ru
Forbes указал на негативные последствия для Польши при репатриации украинцев Обещание Польши оказывать помощь Украине в репатриации украинских мужчин, подлежащих мобилизации, может иметь негативное влияние на экономику страны. …
Общие новости 03:54, мая 12, 2024 | iz.ru