Ученые раскрывают скрытые мысли ИИ
В исследовании, опубликованном в журнале IEEE Transactions on Neural Networks and Learning Systems, рассматривается важная необходимость обеспечения точности и надежности систем искусственного интеллекта, а также их соответствия стандартам, необходимым для безопасного использования.
Глубокие нейронные сети обрабатывают информацию на многих уровнях, подобно тому, как люди решают головоломку шаг за шагом.
Первый уровень, известный как входной уровень, вводит необработанные данные .
Последующие уровни, называемые скрытыми уровнями, анализируют информацию. Ранние скрытые уровни фокусируются на базовых функциях, таких как обнаружение краев или текстур, например, изучение отдельных частей головоломки.
Более глубокие скрытые слои объединяют эти признаки для распознавания более сложных закономерностей , например, идентификации кошки или собаки, — это похоже на соединение частей пазла для получения более общей картины.
«Однако эти скрытые слои подобны запертому черному ящику: мы видим вход и выход, но то, что происходит внутри, неясно», — говорит Данило Васконселлос Варгас, доцент факультета информатики и электротехники Университета Кюсю.
«Это отсутствие прозрачности становится серьезной проблемой, когда ИИ допускает ошибки, иногда вызванные чем-то столь незначительным, как изменение одного пикселя.
ИИ может казаться умным, но понимание того, как он принимает решение, является ключом к тому, чтобы гарантировать его надежность». В настоящее время методы визуализации того, как ИИ организует информацию, основаны на упрощении многомерных данных в 2D или 3D представлениях.
Эти методы позволяют исследователям наблюдать, как ИИ категоризирует точки данных, например, группируя изображения кошек рядом с другими кошками, отделяя их от собак.
Однако это упрощение имеет критические ограничения. «Когда мы упрощаем многомерную информацию до меньшего количества измерений, это похоже на превращение трехмерного объекта в двухмерный — мы теряем важные детали и не видим всей картины.
Кроме того, этот метод визуализации того, как группируются данные, затрудняет сравнение между различными нейронными сетями или классами данных», — объясняет Варгас.
В этом исследовании ученые разработали новый метод, называемый методом распределения k*, который более наглядно визуализирует и оценивает, насколько хорошо глубокие нейронные сети классифицируют связанные элементы.
Модель работает, назначая каждой введенной точке данных «значение k*», которое указывает расстояние до ближайшей не связанной точки данных. Высокое значение k* означает, что точка данных хорошо разделена (например, кошка далеко от собак), в то время как низкое.
Запрет пластика поможет? Ученые раскрывают правду об углеродном следе Вопрос пластика сегодня в актуальной повестке. Последние исследования показали, что замена пластика на альтернативные материалы лишь усугубит ситуаци …
Общие новости 07:36, мая 21, 2024 | aif.ruУченые выяснили, почему появляются "блуждающие" мысли Ученые из Университета Осаки (Япония) обнаружили, что блуждающие мысли или так называемые "грезы наяву" являются "самогенерируемой" мозговой активнос …
Наука 23:48, мая 23, 2024 | gazeta.ruУчёные выяснили, насколько мысли человека влияют на его здоровье Любой медицинский работник согласится с тем, что время, которое потребуется на восстановление после травмы, может быть у разных людей различным. Изве …
Наука и Технологии 12:24, мая 7, 2024 | ferra.ruАмериканские ученые впервые зафиксировали движение мысли человека Американским учёным впервые удалось зафиксировать процесс движения мысли человека через головной мозг. Этого невероятного открытия удалось достичь бл …
Наука и Технологии 04:18, мая 25, 2024 | pravda.ruУченые создали киборгов: протезами ног теперь можно управлять силой мысли Новыми протезами ног можно управлять силой мысли — это революция в сфере протезов. Источник: mintpressnews.com Согласно статистике, сегодня в мире жи …
Наука и Технологии 21:26, июля 6, 2024 | hi-news.ruУчёные открыли скрытые структуры над Большим Красным Пятном Юпитера с помощью космического телескопа «Джеймс Уэбб» Используя космический телескоп «Джеймс Уэбб» (JWST), учёные наблюдали область над знаменитым Большим Красным Пятном Юпитера и обнаружили …
Наука и Технологии 00:26, июня 26, 2024 | ixbt.comРасширенные возможности визуализации раскрывают секреты управления сотовым трафиком Так же, как города должны тщательно управлять потоком автомобилей, въезжающих и выезжающих из центра города, клетки регулируют движение молекул в ядр …
Наука и Технологии 00:26, марта 23, 2025 | android-robot.comКартины художника Павла Лебедева раскрывают красоту окрестностей Ставрополя В картинной галерее Гречишкина работает персональная выставка «Ставропольские окрестности» художника Павла Лебедева. …
Общие новости 21:26, сентября 19, 2024 | stavropolye.tv
PNAS: ледниковые керны раскрывают резкие скачки CO2 в истории климата Антарктиды Климатологи из Университета штата Орегон исследовали ледниковые керны из Антарктиды, чтобы изучить изменения климата и атмосферы в прошлом. Анализ пу …
Наука и Технологии 11:12, мая 15, 2024 | pravda.ru Спектакль Война и мир в Московском Молодежном Театре: песни Высоцкого раскрывают классический сюжет 12 октября в 18:00 в Московском Молодежном Театре покажут спектакль "Война и мир". Автор: Л. Н. Толстой Постановка: В. Спесивцев …
Культура и искусство 21:26, октября 20, 2025 | pravda.ru Galaxy M35: Утечки раскрывают полный дизайн и функции нового смартфона от Samsung (фото) Samsung разрабатывает новый смартфон серии M, Galaxy M35, который только что был полностью раскрыт. Согласно последним утечкам информации, Galaxy M35 …
Гаджеты 17:12, мая 17, 2024 | gagadget.com Банковские гиганты раскрывают риски биткойнов, но криптовалютные рынки танкуют: итоги этой недели Более широкий рынок криптовалют потерял около 70 миллиардов долларов капитализации за последние семь дней, поскольку большинство монет торгуются в ми …
Крипто 21:26, августа 16, 2024 | cryptobrokers.ru
В ИТ-гигантах таинственная волна увольнений. Выгоняют опытных специалистов с многолетним стажем. Число уволенных не раскрывают ИТ-специалисты оказались на пороге увольнения, и от принудительного ухода их не убережет даже колоссальный опыт и многолетний труд на одну и ту же ко …
Наука и Технологии 21:26, июля 6, 2024 | zoom.cnews.ru Перечислены скрытые признаки стресса По словам экспертов, «тихие» симптомы стресса можно легко не заметить, но в любом случае это важно для психического здоровья. Среди же явных признако …
Наука и Технологии 12:24, мая 7, 2024 | ferra.ru «Великолепные очевидцы»: скрытые смыслы портретов В Новой Третьяковке открылась выставка о связях и взаимных влияниях деятелей культуры 1910–1930-х годов …
Культура и Образование 12:36, мая 24, 2024 | vedomosti.ru Как найти скрытые приложения на Android: инструкция Android-смартфоны порой скрывают от пользователя немало приложений. Если вам интересно, сколько таких программ спрятано на вашем телефоне, портал mak …
Наука и Технологии 22:06, апреля 17, 2024 | news.rambler.ru В РФ ужесточат ответственность за скрытые автомобильные номера Правительственная комиссия по законопроектной деятельности одобрила инициативу МВД об ужесточении наказания. …
Общие новости 23:42, мая 13, 2024 | aif.ru Скрытые риски интервального голодания для здоровья 10:00, 29 мая 2024, автор: Майя Б.Скрытые риски интервального голодания для здоровьяОпасным последствием интервального голодания является риск развит …
Общие новости 12:48, мая 29, 2024 | incnews.ru
В России ужесточат наказание за скрытые автомобильные номера Правительство России предложило ужесточить наказание за использование устройств, маскирующих государственные номера автомобилей. Соответствующий зако …
Общие новости 00:24, мая 24, 2024 | ura.news Есть скрытые гиганты, инвестирующие в биткойн-ETF: побитовое Руководители Bitwise располагают секретной информацией о крупных финансовых игроках, инвестирующих в BTC, но не уточняют, какие именно. Во время инте …
Крипто 00:36, мая 22, 2024 | cryptobrokers.ru
В РФ хотят ввести административную ответственность за скрытые автономера Правительственная комиссия по законопроектной деятельности приняла решение о введении более строгой административной ответственности за использование …
Общество и Регионы 08:12, мая 14, 2024 | gazetadaily.ru Скрытые способности: как тест с рисунками раскрывает ваш потенциал Новый вирусный тест предлагает взглянуть на себя с другой стороны и выявить свои внутренние способности. Всё, что нужно, — это выбрать один из семи п …
Общество и Регионы 21:26, января 19, 2025 | pravda.ru «Мысли» – о самом главном В Кемерове прошёл первый литературный фестиваль «Мысли», организованный кемеровским предприятием «Азот». Гигант химической индустрии (входит в АО ГК …
Общество и Регионы 21:26, октября 23, 2024 | kuzbass85.ru