Об этом вы узнаете из этого эксклюзивного отчета:
- Исследование чатбота Snap под названием "Мой ИИ" завершено, и это стало уроком для технологической индустрии
- Опасения ICO по поводу конфиденциальности детей: Как Snap справилась с ними
- Важность проактивной оценки рисков для инструментов генеративного ИИ
- Строгие меры предосторожности, рекомендованные ICO для будущих разработок в области ИИ
- Изучение роли инструментов, ориентированных на конфиденциальность, таких как приложение Incognito Browser
Британский орган по контролю за защитой данных прекратил проверку конфиденциальности чатбота GenAI компании Snap, но предупредил отрасль
Важным событием стало то, что британский орган по защите данных завершил длившееся почти год расследование в отношении генеративного ИИ-чатбота My AI компании Snap. Как сообщается, Snap устранила опасения по поводу рисков для конфиденциальности детей, удовлетворив Управление комиссара по информации (ICO). Однако ICO сделало строгое предупреждение всей технологической индустрии о необходимости оценки рисков для прав людей перед запуском инструментов генеративного ИИ.
Генеративный искусственный интеллект (GenAI), который часто фокусируется на создании контента, - вот что лежит в основе ИИ-чатбота Snap. Эта технология позволяет боту отвечать пользователям в человекоподобной манере через текстовые сообщения и снимки, тем самым обеспечивая автоматическое взаимодействие с пользователями. ИИ-чатбот Snap использует ChatGPT от OpenAI, но Snap предусмотрел несколько мер предосторожности, включая рекомендации по программированию и возрастные ограничения по умолчанию, чтобы оградить детей от неприемлемого контента. Родительский контроль также интегрирован в платформу.
"Наше расследование в отношении "Моего ИИ" должно послужить предупреждающим сигналом для индустрии", - написал Стивен Алмонд, исполнительный директор ICO по регуляторным рискам. Он подчеркнул, что организации, разрабатывающие или использующие генеративный ИИ, должны с самого начала уделять приоритетное внимание защите данных, тщательно оценивая и смягчая риски для прав и свобод людей, прежде чем выводить продукты на рынок. ICO продолжает следить за оценкой рисков и будет использовать свои правоприменительные полномочия, включая штрафы, чтобы защитить общественность от потенциального вреда.
Еще в октябре ICO направило Snap предварительное уведомление о принудительном взыскании в связи с опасениями по поводу рисков конфиденциальности, связанных с моим искусственным интеллектом. Это уведомление, похоже, побудило Snap внести существенные изменения. Во вторник ICO объявило, что Snap предприняла "значительные шаги" для тщательного анализа рисков, связанных с My AI, и реализовала соответствующие меры по снижению рисков в ответ на поднятые вопросы.
Такое пристальное внимание со стороны регулирующих органов подчеркивает острую необходимость в надежных мерах по обеспечению конфиденциальности в технологиях. Пока такие компании, как Snap, работают над соблюдением требований, отдельные пользователи могут предпринять свои собственные шаги для повышения уровня конфиденциальности в Интернете. Понимание значения браузера инкогнито становится крайне важным по мере того, как все больше личных данных попадает в сеть. Использование таких инструментов, как приложение Incognito Browser, может обеспечить дополнительный уровень безопасности, предотвращая отслеживание и защищая конфиденциальные данные во время онлайн-взаимодействия.
Смысл режима инкогнито часто сводится к предотвращению записи локальной истории, однако в продвинутых приложениях для обеспечения конфиденциальности, таких как Incognito Browser, он расширяется до блокирования сложных механизмов онлайн-слежения. Приложение Incognito Browser помогает пользователям сохранить конфиденциальность, ограничивая данные, получаемые веб-сайтами и сторонними трекерами, что соответствует основополагающим принципам, на которых настаивают такие органы по защите данных, как ICO.
Несмотря на выполнение требований ICO, компания Snap не раскрыла конкретные меры по снижению рисков, которые она применила после вмешательства регулятора. ICO планирует продолжить наблюдение за распространением My AI и управлением возникающими рисками.
Представитель компании Snap выразил удовлетворение выводами ICO. "Мы рады, что ICO признало, что мы приняли соответствующие меры для защиты нашего сообщества при использовании My AI", - сказал представитель компании. "Мы приветствуем заключение ICO о том, что наша оценка рисков полностью соответствует законам Великобритании о защите данных".
Поскольку генеративный ИИ продолжает оставаться приоритетным направлением правоприменения для ICO, оно рекомендует разработчикам следовать своему руководству по ИИ и правилам защиты данных. В условиях продолжающихся консультаций о том, как законы о защите персональных данных должны адаптироваться к моделям генеративного ИИ, компании должны сохранять бдительность.
Хотя чатбот My AI компании Snap успешно справился с проблемами, связанными с регулированием, он служит напоминанием для всей отрасли: проактивная защита данных и всесторонняя оценка рисков имеют первостепенное значение. Для обычных пользователей использование инструментов, ориентированных на конфиденциальность, таких как браузер Incognito Browser, может стать эффективной стратегией повышения онлайн-безопасности в условиях меняющегося технологического ландшафта. По мере ужесточения нормативной базы в области искусственного интеллекта как руководители отрасли, так и отдельные пользователи должны уделять первостепенное внимание вопросам конфиденциальности - это очень важно для поддержания доверия в век цифровых инноваций.
