Новый ИИ Grover генерирует и обнаруживает фейковые новости
Коллектив учёных из Вашингтонского Университета и Алленовского института искусственного интеллекта анонсировал продвинутую нейросеть Grover, созданную для идентификации и анализа дезинформации в цифровых медиа. Эта модель демонстрирует высокую эффективность в распознавании как машинно-сгенерированных, так и написанных человеком фейковых новостей.
Согласно исследователям, «Grover — это современный детектор фейковых новостей», который особенно эффективен против массово производимого машинного контента — точность detection в таких случаях превышает 97%. Модель способна определять тексты, созданные генераторами типа GPT-2, с точностью до 96%, а также успешно выявляет человеческую дезинформацию.
Для обучения модели использовалась обширная база данных: 30 тысяч примеров текстов с дезинформацией, написанных людьми, и тысячи машинно-сгенерированных статей. В результате Grover достиг точности свыше 95% в обеих категориях.
Однако система не идеальна. Например, «распознавание фейковых финансовых новостей» представляет сложность из-за автоматизированного характера многих биржевых отчётов. Тогда как в тематиках вроде политики или культуры (на примере Slate) точность достигает 99,8%, с финансовыми данными (например, American Banking and Market News) результат падает до 60,5%.
Уникальность Grover заключается в том, что он одновременно является и генератором текстов. Исследователи отмечают: «нейросеть для генерации текста может создавать правдоподобные фейковые новости», имитируя стиль конкретных сайтов. Именно это позволяет ей эффективно детектировать подобный контент — система знает шаблоны и маркеры машинного создания информации.
На практике любой пользователь может воспользоваться Grover через веб-интерфейс:
Проект доступен для публичного использования: можно загрузить модели Grover-Base и Grover-Large, а также подать заявку на доступ к самой мощной версии — Grover-Mega. Это открывает возможности для «проверить новость на ИИ», «верификация контента онлайн» и «инструменты для борьбы с дезинформацией».
Таким образом, Grover не только помогает в выявлении фейков, но и наглядно демонстрирует, как современные «нейросети для создания текста» могут использоваться как для генерации, так и для детекции дезинформации. Это важный шаг в развитии «искусственный интеллект против фейковых новостей» и создания более безопасного информационного пространства.
Согласно исследователям, «Grover — это современный детектор фейковых новостей», который особенно эффективен против массово производимого машинного контента — точность detection в таких случаях превышает 97%. Модель способна определять тексты, созданные генераторами типа GPT-2, с точностью до 96%, а также успешно выявляет человеческую дезинформацию.
Для обучения модели использовалась обширная база данных: 30 тысяч примеров текстов с дезинформацией, написанных людьми, и тысячи машинно-сгенерированных статей. В результате Grover достиг точности свыше 95% в обеих категориях.
Однако система не идеальна. Например, «распознавание фейковых финансовых новостей» представляет сложность из-за автоматизированного характера многих биржевых отчётов. Тогда как в тематиках вроде политики или культуры (на примере Slate) точность достигает 99,8%, с финансовыми данными (например, American Banking and Market News) результат падает до 60,5%.
Уникальность Grover заключается в том, что он одновременно является и генератором текстов. Исследователи отмечают: «нейросеть для генерации текста может создавать правдоподобные фейковые новости», имитируя стиль конкретных сайтов. Именно это позволяет ей эффективно детектировать подобный контент — система знает шаблоны и маркеры машинного создания информации.
На практике любой пользователь может воспользоваться Grover через веб-интерфейс:
- На вкладке «Создать» можно сгенерировать текст в определённом стиле, указав домен;
- Вкладка «Обнаружить» позволяет проверить текст на признаки генерации ИИ.
Проект доступен для публичного использования: можно загрузить модели Grover-Base и Grover-Large, а также подать заявку на доступ к самой мощной версии — Grover-Mega. Это открывает возможности для «проверить новость на ИИ», «верификация контента онлайн» и «инструменты для борьбы с дезинформацией».
Таким образом, Grover не только помогает в выявлении фейков, но и наглядно демонстрирует, как современные «нейросети для создания текста» могут использоваться как для генерации, так и для детекции дезинформации. Это важный шаг в развитии «искусственный интеллект против фейковых новостей» и создания более безопасного информационного пространства.