Алгоритмы учатся тому, чего не должны: эксперт рассказал о скрытых рисках ИИ
Это называется «подсознательным обучением» — когда алгоритмы находят скрытые шаблоны в данных, которые могут привести к ошибкам.Например, чат-бот службы поддержки может вдруг начать выдавать токсичные ответы из-за таких скрытых связей в обучении.
Или медицинская система может невольно игнорировать симптомы у некоторых пациентов, что опасно и может вызвать юридические проблемы. Особенно сложно заметить такие ошибки, так как они «спрятаны» внутри самой модели, а не в явных данных.
Критически важно перепроверять советы непрофильных ИИ-систем, например, общедоступных чат-ботов для получения ответов в сфере медицины или финансов с авторитетными источниками и экспертным мнением. Например, для врача даже профильный инструмент — всегда второе мнение.
Следует избегать сервисов, использующих непроверенные синтетические данные. Олег Рогов Директор лаборатории безопасного искусственного интеллекта "SAIL" Института AIRI и МТУСИ Эксперт подчеркивает, что для повышения безопасности и доверия нужно делать ИИ более прозрачным — публиковать отчеты о тестах, использовать «песочницы» для проверки и инструменты, показывающие, как принимаются решения.
В критически важных областях стоит применять проверяемые правила и модульный подход к обучению.
В образовании полезен метод AZR, при котором ИИ обучается только на проверенных данных — например, математике или программировании — чтобы избежать опасных ошибок из-за вредных текстов.
Эксперт рассказал о рисках использования ИИ в проектировании зданий Россиянам рассказали, сможет ли ИИ заменить архитекторовАртём Шейкин, зампред совета по развитию цифровой экономики, заявил, что строительная отрасль …
Наука и Технологии 04:42, июня 10, 2024 | ferra.ruЭксперт рассказал о рисках для здоровья добавок тестостерона для любителей спортзалов Стремление к рельефному телосложению заставляет некоторых посетителей тренажёрных залов экспериментировать с синтетическими стероидами. В частности, …
Наука и Технологии 00:30, мая 21, 2024 | ferra.ruЭксперт Моженков рассказал о рисках при открытии платёжных карт в иностранных банках Россияне могут столкнуться с рисками при открытии платёжных карт Visa и Mastercard в иностранных банках, сообщил NewsInfo.Ru финансовый аналитик Нико …
Экономика 14:36, мая 29, 2024 | pravda.ruЭксперт рассказал, из чего складывается стоимость фармацевтических препаратов Формирование стоимости лекарственных препаратов — сложный процесс, который зависит от множества факторов. Алексей Огарков, эксперт по коммерческой эф …
Общество и Регионы 06:42, апреля 17, 2024 | gazeta.ruЭксперт рассказал, чего «Зениту» не хватило в игре с «Оренбургом» Борис Игнатьев, советский и российский футбольный тренер рассказал, чего питерскому «Зениту» в минувшее воскресенье не хватило в игре с «Оренбургом»Ч …
Футбол 19:18, апреля 22, 2024 | euro-football.ruЭксперт рассказал чего избегать в самолёте, если цените своё здоровье В самолёте пассажирам лучше отказаться от горячего чая или кофе: вода, используемая для этих напитков, поступает из резервуаров, которые редко тщател …
Туризм, путешествия 07:26, октября 27, 2024 | pravda.ru
Тренер «Тампы» Купер: «Бобровский обманул судей — так тому и быть. Но мы должны оспорить это решение» Главный тренер «Тампы» Джон Купер поделился мнением незасчитанном голе в пятом матче серии первого раунда Кубка Стэнли против «Тампы» (6:1). …
Хоккей 09:24, апреля 30, 2024 | sport-express.ruИИ-эксперт Транкова рассказала о рисках внедрения ChatGPT для университетов OpenAI представила новую версию своей модели ChatGPT, специально разработанную для университетов. Эта корпоративная подписка, называемая ChatGPT Edu, …
Наука и Технологии 08:24, июня 8, 2024 | pravda.ru
Энтони Эдвардс: «В третьем матче «Наггетс» будут играть иначе. Мы должны быть готовы к тому, что они нанесут удар» «Миннесота» начала серию с двух выездных побед – 2-0. «Потеряли ли они уверенность? Нет, конечно. Во втором матче для нас все удачно сложилось, тольк …
Спорт 13:06, мая 8, 2024 | sports.ru
Ликсутов рассказал о рисках ДТП из-за беспилотников Массовое внедрение беспилотных автомобилей в Москве сейчас нецелесообразно из-за неподходящей инфраструктуры. Об этом рассказал заместитель мэра Моск …
Авто / Мото 16:42, июня 8, 2024 | gazeta.ru Вернулись к тому, с чего начинали: похоже, Blizzard готовится переименовать Overwatch 2 в Overwatch По мере развития условно-бесплатный командный шутер Overwatch 2 от Blizzard Entertainment всё меньше становится похож на некогда обещанный сиквел. В …
Игры 07:26, апреля 5, 2025 | 3dnews.ru
Врач рассказал о рисках потребления черного чая Врач Андрей Тяжельников перечислил категории людей, которым не стоит пить крепкий черный чай. Напиток имеет тонизирующий эффект, который может негати …
Общество и Регионы 09:42, мая 21, 2024 | mockva.ru Серьезная проблема. Мясников рассказал о рисках раздраженного кишечника Синдром раздраженного кишечника — проблема, про которую слышали многие. Однако нередко вопрос вызывает то, почему его лечат антидепрессантами. …
Общие новости 21:48, апреля 15, 2024 | aif.ru Врач Хухрев рассказал о рисках неправильного приёма лекарств летом Терапевт предостерёг от хранения медикаментов на балконах и в других местах, где они могут подвергаться воздействию прямых солнечных лучей. …
Общие новости 14:26, июля 4, 2025 | aif.ru Пучок нервов. Остеопат рассказал о рисках синдрома «конского хвоста» Бывает, что болевые ощущения и онемение в области таза становятся следствием синдрома «конского хвоста». Мало того, что о нем не все слышали, так он …
Общие новости 04:42, мая 18, 2024 | aif.ru
Вице-премьер Хуснуллин рассказал о рисках девелоперов и важности доступной ипотеки Вице-премьер Марат Хуснуллин отметил, что продажи квартир снижаются после отмены льготной ипотеки, а строительство усложняется из-за высоких затрат н …
Экономика 07:26, августа 23, 2025 | gazetadaily.ru
Доктор Токарев рассказал о главных рисках для здоровья жителей ЯНАО. Инфографика Болезни кровообращения и заболевания эндокринной системы являются главными факторами риска для здоровья ямальцев. О том, что приводит к сердечно-сосу …
Общие новости 06:00, июня 13, 2024 | ura.news
Глава «Сбербанка» Греф рассказал о рисках отмены льготы на долгосрочное владение акциями Отмена льготы на долговременное владение акциями может спровоцировать рост волатильности, считает глава «Сбербанка» Герман Греф. Своим мнением он под …
Бизнес и Промышленность 20:18, июня 7, 2024 | finam.ru
Эйдельштейн рассказал, как читал рэп на кастинге фильма «Сто лет тому вперед» Актера Марка Эйдельштейна, как сообщили создатели фильма «Сто лет тому вперед», сразу утвердили на роль Коли Герасимова. Артист рассказал, как на кас …
Общие новости 13:36, апреля 29, 2024 | iz.ru
Бондарчук рассказал о создании новой версии Вертера в «Сто лет тому вперед» Робот Вертер в фильме «Сто лет тому вперед», основанном на одноименной повести Кира Булычёва, изображен в виде летающего дрона с индикатором, напомин …
Общие новости 15:18, апреля 28, 2024 | iz.ru
Эксперт: команды Ф-1 с облегчением должны реагировать на уход Ньюи Комментатор Sky Sports Дэвид Крофт прокомментировал уход звёздного британского инженера Эдриана Ньюи из «Ред Булл». …
Спорт 23:36, мая 1, 2024 | championat.com «Месяца два — и все будет в порядке» // Эпидемиолог Вадим Покровский рассказал о санитарных рисках после отступления большой воды Уровень воды в реке Урал в Орске упал ниже опасной отметки, и по мере того, как вода отступает, люди возвращаются в свои дома. С какими санитарными п …
Общество и Регионы 07:54, апреля 16, 2024 | kommersant.ru Бес контроля. Эксперт Морозов объяснил, из-за чего паводки стали ЧС Героической борьбы с паводком, оставившим тысячи людей без крыши над головой, могло бы и не быть, если бы работала система планового реагирования на …
Общие новости 06:42, апреля 22, 2024 | aif.ru
Рубль слабеет: эксперт объяснил, чего ждать от курса Сегодня рубль попытается перейти к восстановлению, чему способствует хорошая ситуация в ценах на нефть, считает главный аналитик финансового маркетпл …
Экономика и Финансы 21:30, апреля 16, 2024 | banki.ru