Кыргызстанцы стали победителями конкурса по взлому ИИ в Калифорнии

Алтынбек Исмаилов, выпускник Колумбийского университета в Нью-Йорке, и Салия Асанова, выпускница Калифорнийского университета в Беркли, стали победителями международного конкурса AI Hack Challenge, который был организован компанией Anthropic. Об этом сообщило Министерство образования и науки Кыргызской Республики.

В ходе программы баг-баунти участники работали над обходом защитных механизмов AI-модели Claude 3.5 Sonnet, в то время как разработчики оценивали устойчивость системы.

Исмаилов и Асанова применили уникальный метод взлома, что позволило им занять первое место и получить главный приз. В общей сложности было распределено $55,000 среди участников, успешно преодолевших защиту.

Данный конкурс помог выявить уязвимости в системе, а его результаты будут использованы для повышения безопасности искусственного интеллекта.

Конкурс проходил в два этапа: на первом этапе была протестирована начальная версия защиты, которая оказалась слишком строгой, иногда блокируя безобидные запросы. На финальном этапе обновлённая версия классификаторов значительно уменьшила количество ложных отказов и повысила эффективность системы.

Стоит отметить, что Салия Асанова является обладателем президентской стипендии "Эл умуту".