ИИ научился ставить галку "Подтвердите, что вы человек"
ChatGPT теперь умеет обманывать систему верификации, которая определяет ботов на сайте.
Новая версия ИИ может действовать от имени пользователя - как персональный помощник для выполнения задач. Например, делать онлайн-покупки, планировать встречи и бронировать места в ресторане. Эксперты отмечают, что ИИ теперь сам сможет поставить галочку в окошке "Подтвердите, что вы человек" при проверке на сайтах, предварительно оповещая пользователя об этом действии. В OpenAI заверили: чат-бот будет всегда запрашивать разрешение, прежде чем что-то сделать.
Функции ChatGPT, которые выполняют действия от имени пользователя, будут востребованы в тех сферах, где ценится скорость, автоматизация и снижение когнитивной нагрузки, считает независимый эксперт в сфере искусственного интеллекта, кандидат экономических наук Алексей Лерон.
Среди таких сфер: B2C-сегмент - онлайн-ритейл, путешествия, доставка, банковские и страховые сервисы. Пользователи получат удобство "одного окна", где ИИ сам ищет, фильтрует, бронирует, оплачивает на основании предпочтений клиента.
Функции ChatGPT могут использоваться и в B2B сегменте - ИИ поможет автоматизировать рутинные задачи. За счет этого временные издержки будут снижаться, а эффективность возрастать.
Наибольшим спросом эти функции будут пользоваться на рынках с высокой долей электронной коммерции. В то же время в банках, на государственных порталах и в медицине спрос окажется невысоким, - в этих сферах важна строгая идентификация.
По этой причине регуляторы могут потребовать, чтобы любой обход проверки сопровождался подтверждением личности - цифровой подписью или биометрией. Такое обсуждение уже ведется в рамках кибербезопасности в ЕС и США, отметил директор по консалтингу системного интегратора и разработчика Navicon Илья Народицкий.
Пока говорить о полной автономности таких инструментов не приходится - их должен контролировать человек, чтобы избежать риска "галлюцинаций".
Тем не менее, вопрос безопасности таких ИИ-агентов остается открытым. Технологии развиваются, и методы обхода барьеров безопасности постоянно совершенствуются злоумышленниками. Уже сегодня бизнесу необходимо внедрять более продвинутые решения, например, многоуровневые системы. Они анализируют поведение пользователей и повышают сложность задания для подтверждения, что это не робот.
"Без многоуровневых систем сегодня можно потерять не только контроль над данными, но и подорвать доверие пользователей" - считает директор по инновациям разработчика и интегратора в финтехе Fork-Tech Владислав Лаптев.
Компании применяют и другие методы защиты: ограничивают доступ к конкретным ресурсам через VPN или переводят работу с базами данных в режим On-premise решений - локальное развертывание ПО на собственных серверах компании.
Ключевым фактором успешного внедрения ИИ-агентов станет нахождение баланса между автоматизацией и контролем, а также разработка надежных механизмов верификации и аудита действий ИИ, считает основатель ИТ-интегратора AWG и платформы гибкой занятости SkillStaff Александр Хачиян.