Новый метод позволяет моделям ИИ забывать личные и защищенные авторским правом данные
Это достижение, подробно изложенное в докладе, представленном в июле на Международной конференции по машинному обучению в Ванкувере (Канада), отвечает на растущую глобальную обеспокоенность по поводу того, что личные и защищенные авторским правом материалы остаются в моделях ИИ на неопределенный срок и, таким образом, доступны пользователям моделей, несмотря на попытки первоначальных создателей удалить или защитить свою информацию с помощью платного доступа и паролей.
Исследование также было опубликовано на сервере препринтов arXiv .
Инновация UCR заставляет модели ИИ «забывать» выбранную информацию, сохраняя при этом функциональность моделей с оставшимися данными.
Это значительное достижение, позволяющее вносить изменения в модели без необходимости их пересоздания на основе объёмных исходных данных для обучения, что требует больших затрат и энергии.
Этот подход также позволяет удалять конфиденциальную информацию из моделей ИИ, даже если исходные данные для обучения больше не доступны.
«В реальных ситуациях не всегда можно вернуться и получить исходные данные», — сказал Юмит Йигит Башаран, докторант кафедры электротехники и вычислительной техники Калифорнийского университета в Риверсайде и ведущий автор исследования.
«Мы создали сертифицированную систему, которая работает даже тогда, когда эти данные больше не доступны». Необходимость насущна.
Технологические компании сталкиваются с новыми законами о конфиденциальности, такими как Общий регламент Европейского союза по защите данных и Закон штата Калифорния о защите конфиденциальности потребителей, которые регулируют безопасность персональных данных, встроенных в крупномасштабные системы машинного обучения.
Более того, The New York Times подает в суд на OpenAI и Microsoft за использование многочисленных статей компании, защищенных авторским правом, для обучения моделей Generative Pre-trained Transformer (GPT).
Модели искусственного интеллекта «изучают» закономерности слов, используя огромные объёмы текста, собранного из интернета.
При запросе модели предсказывают наиболее вероятные словосочетания, генерируя ответы на естественном языке в ответ на запросы пользователя. Иногда они генерируют практически дословные копии обучающих текстов, что позволяет пользователям обходить платный доступ создателей контента.
Исследовательская группа Калифорнийского университета в Риверсайде, в состав которой входят Башаран, профессор Амит Рой-Чоудхури и доцент Башак Гюлер, разработала так называемый «метод сертифицированного отучения без использования исходного кода».
Этот метод позволяет разработчикам ИИ удалять целевые данные, используя замещающий, или «суррогатный», набор данных, статистически схожий с исходными данными.
Система корректирует параметры модели и добавляет т.
Теперь и на ПК: Xbox позволяет «стримить» личные игры из «облака» …
Интернет и Игры 00:26, июля 17, 2025 | itndaily.ruПодросток украл личные данные почти 20 миллионов французов По итогам расследования дела о массовом взломе данных клиентов французского интернет-провайдера Free правоохранительные органы задержали 17-летнего п …
Происшествия 07:26, января 17, 2025 | pravda.ruЛичные данные более 100 млн жителей США оказались в открытом доступе Исследователи в сфере информационной безопасности обнаружили в интернете базу данных, в которой содержится личная информация 106 316 633 граждан США …
Software 00:26, сентября 26, 2024 | 3dnews.ruЗащитный плагин для WordPress раскрывал личные данные пользователей В плагине Anti-Malware Security and Brute-Force Firewall для WordPress обнаружили уязвимость, которая позволяет пользователям с минимальными привилег …
Наука и Технологии 14:26, ноября 2, 2025 | xakep.ruХакеры украли личные данные военнослужащих Минобороны Британии Сайт Минобороны Великобритании подвергся кибератаке, сообщил телеканал Sky News. Хакеры получили доступ к личным данным всех сотрудников ведомства, а …
Общие новости 05:48, мая 7, 2024 | life.ruМатематический метод позволяет людям доказать свое местонахождение, не раскрывая его Данные о местоположении считаются особенно конфиденциальными — их неправильное использование может иметь серьезные последствия. Исследователи из Мюнх …
Интернет и Игры 07:26, июня 2, 2025 | android-robot.comМошенники стали требовать личные данные пенсионеров под предлогом выплат Мошенники придумали новую схему, от которой могут пострадать пенсионеры, рассказала "Ленте.ру" член Комитета Госдумы по труду, социальной политике и …
Общие новости 06:48, апреля 27, 2024 | life.ruХакеры воруют личные данные пассажиров при онлайн-регистрации на авиарейсы Любители воздушных полетов, регистрирующиеся на виртуальных ресурсах компании-перевозчика для получения билетов на лайнер, рискуют потерять деньги на …
Интернет 01:12, апреля 16, 2024 | vladtime.ru
Сговор с Facebook: Смартфоны Samsung крадут личные данные пользователей Приложение-вирус вшивается в прошивку. Удалить его невозможно. Пользователи в Сети стали отмечать, что, приобретая новые смартфоны, преимущественно S …
Технологии 09:24, апреля 23, 2024 | versiya.info
Пророссийские хакеры получили личные данные высокопоставленных украинских чиновников В результате взлома были получены личные данные заместителей руководителя офиса Владимира Зеленского Виктора Микиты и Ирины Мудрой, а также первого в …
Общие новости 21:26, ноября 2, 2025 | nakanune.ru Австрийские исследователи собрали личные данные 3,5 млрд пользователей WhatsApp Исследователи из Венского университета заявили, что обнаружили уязвимость в WhatsApp, которая позволила им собрать данные более 3,5 млрд пользователе …
Наука и Технологии 14:26, ноября 21, 2025 | xakep.ru В России впервые банк оштрафовали за личные данные должника в WhatsApp* В России с 1 марта 2023 году запрещено использовать иностранные мессенджеры для предоставления финансовых и государственных услуг. …
Общие новости 07:26, апреля 16, 2025 | 47news.ru На Ставрополье 19-летний работник салона сотовой связи продавал личные данные клиентов третьим лицам В отношении молодого человека возбуждено уголовное дело о неправомерном доступе к компьютерной информации. …
Общие новости 21:06, мая 28, 2024 | news.1777.ru Новая реконфигурируемая система на основе мемристоров позволяет сортировать данные в памяти Организация данных в определённом порядке, также известная как сортировка, — это важная вычислительная операция, выполняемая широким спектром систем. …
Hardware 00:26, августа 27, 2025 | android-robot.com Разве что «тошнить» в правом ряду: ТОП-3 причины, почему не стоит брать новый УАЗ «Патриот» вместо б/у Land Cruiser На самом деле российский внедорожник провальный по всем фронтам. Многие россияне задумываются о покупке нового УАЗ «Патриот» вместо б/у T …
Авто / Мото 15:00, апреля 21, 2024 | versiya.info Новый метод ускорит онлайн-транзакции в 20 раз Австралийские ученые совместно с коллегами создали способ ускорить работу цифровых подписей в 20 раз. Это обеспечит более быстрые и безопасные онлайн …
Наука и Технологии 05:12, мая 17, 2024 | ferra.ru Новый баг в Exim позволяет обойти защиту от опасных вложений Более 1,5 млн серверов, на которых работает агент пересылки сообщений Exime, уязвимы перед новым критическим багом. С помощью этой проблемы злоумышле …
Наука и Технологии 14:26, июля 13, 2024 | xakep.ru Ученые разработали новый метод очистки сточных вод В Минобрнауки РФ сообщили, что ученые из Кемеровского государственного университета и МГУ имени Ломоносова представили новый метод очистки карьерных …
Наука и Технологии 06:48, мая 29, 2024 | ferra.ru Ученые представил новый метод обнаружения рака Ученые из Университета Хьюстона представили новый способ обнаружения рака, который может сделать процедуру такой же простой, как обычный анализ крови …
Наука и Технологии 06:42, июня 1, 2024 | ferra.ru Ученые MIT разработали новый метод обучения роботов Ученые Массачусетского технологического института (MIT) создали технику, позволяющую обучать многоцелевых роботов на основе данных из разных источник …
Наука и Технологии 13:00, июня 4, 2024 | ferra.ru Создан новый метод лечения депрессии и тревоги Ученые из Университета Флориды в США обнаружили, что неинвазивная стимуляция мозга током облегчает симптомы депрессии и тревоги у пожилых людей. Резу …
Наука 23:54, апреля 21, 2024 | gazeta.ru Российские ученые создали новый метод заживления ран Специалисты из Военно-медицинской академии имени С. М. Кирова Министерства обороны РФ разработали новый метод лечения глубоких ран. Они использовали …
Наука и Технологии 12:48, апреля 17, 2024 | ferra.ru Учёные из MIT разработали новый метод позиционирования атомов Ученые из MIT разработали новый метод позиционирования атомов с точностью до 50 нанометров, что в 10 раз точнее предыдущих методов, где минимальное р …
Наука и Технологии 02:24, мая 5, 2024 | pravda.ru Разработан новый метод создания костных имплантатов Исследователи предложили новый подход к созданию имплантатов для восстановления костной ткани, используя бактериальную целлюлозу и метод 3D-печати.Ба …
Наука и Технологии 12:48, апреля 17, 2024 | ferra.ru