ChatGPT научился обходить Captcha: уязвимость в системе защиты

Исследователи обнаружили новую уязвимость в системе защиты Captcha, которую успешно обходит ChatGPT. Используя технику промпт-инъекции, они смогли убедить модель, что Captcha является «фейковой» или тестом, который нужно пройти по умолчанию. 😮 В режиме агента, когда модель действует самостоятельно, алгоритм ChatGPT обходит защиту, которая раньше считалась практически непробиваемой для ботов. Это открытие ставит под угрозу безопасность многих онлайн-платформ, так как Captcha широко используется для защиты от автоматизированных атак. 🔐 OpenAI уже уведомлена о проблеме и активно работает над исправлением. Представители компании заявили, что безопасность пользователей является их главным приоритетом, и они предпринимают все необходимые меры для устранения уязвимости. 🛡️