Сбербанк и SberDevices представили ИИ-детектор GigaCheck для определения текстов, написанных нейросетью
Исследователи Сбербанка и компании SberDevices представили GigaCheck — детектор для определения авторства русскоязычных текстов. Решение отличается высокой точностью и скоростью работы, предоставляется по API и встраивается в любые сторонние приложения. В русскоязычном сегменте разработки у детектора практически нет альтернатив с близкими показателями. Об этом CNews сообщили представители Сбербанка.
Ключевая метрика TPR&FPR (True positive rate & False positive rate) = 0,01 – 94,7% означает, что при частоте ложных срабатываний не более 1% точность работы GigaCheck составляет 94,7%. Показатель ближайшего конкурента — не более 85%. На сегодняшний день GigaCheck — самый достоверный и качественный детектор подобного рода. Чтобы взломать его, в большинстве случаев текст придется изменить до степени неприменимости в реальных задачах.
Сейчас GigaCheck дает обобщенную оценку авторства. Если в одном тексте использованы как фрагменты, написанные человеком, так и фрагменты, сгенерированные искусственным интеллектом, то определение авторства осуществляется по преобладающему контенту. В ближайшее время GigaCheck сможет также определять, какие именно фрагменты текста сгенерированы LLM.
Работу детектора текстов GigaCheck оценят эксперты, занимающиеся проверкой подлинности научных публикаций, диссертаций и дипломов. Владельцы пабликов в соцсетях с помощью детектора смогут быстро обнаруживать созданные генеративными моделями комментарии и посты. Редакторы и все, принимающие работу копирайтеров, также получат эффективный инструмент для ее проверки и оценки.
Сергей Марков, управляющий директор Управления экспериментальных систем машинного обучения SberDevices:«С помощью GigaCheck мы проанализировали 220 тыс. текстов новостных ресурсов за последний месяц и выявили, что в среднем 6% из них создано LLM, а в некоторых крупных изданиях превышает треть от всего опубликованного контента. До сих пор вероятность создания подобного работающего детектора текстов считалась крайне низкой. Многие эксперты расценивали эту задачу как практически нерешаемую. Для разработки такого сервиса требуются серьезные ресурсы и большие объемы данных. Но даже неограниченных ресурсов может оказаться недостаточно. Например, один из признанных лидеров в области разработки систем искусственного интеллекта, компания OpenAI, в начале 2023 г. анонсировал свой детектор для англоязычных текстов, но со временем был вынужден закрыть доступ к нему из-за невысокой точности. Тем важнее достижение нашей команды, которой, несмотря на все сложности, удалось разработать собственную эффективную технологию».
Сейчас протестировать возможности GigaCheck можно в свободном доступе на сайте и через Telegram-бот. Для коммерческого использования бизнес может оставить заявку, чтобы получить доступ к GigaCheck API.
