Slop or Not представляет собой приложение для обнаружения текста и изображений, созданных искусственным интеллектом, доступное на iPhone и Mac. Приложение работает полностью автономно, не требует учётной записи и использует встроенные нейросетевые модели Apple Neural Engine для выявления контента, созданного ИИ.
Согласно недавнему исследованию, 85% пользователей испытывают затруднения при различении подлинного контента от материалов, сгенерированных искусственным интеллектом. Этот показатель возрос по сравнению с 66% годом ранее. Половина участников опроса сообщили о столкновении с мошенничеством, связанным с ИИ, включая дипфейки, клонирование голоса, поддельные отзывы и персонализированные фишинг-атаки. Результаты указывают на то, что всё более реалистичный контент, созданный ИИ, усложняет выявление мошенничества и подрывает доверие в интернете.
Приложение содержит интерактивный тест, позволяющий проверить навыки различения AI-генерируемых и настоящих изображений. При тестировании как обычный пользователь, опираясь на первое впечатление, я правильно определил 6 из 10 изображений, тогда как 4 оказались для меня неопознаваемыми.
Slop or Not предоставляет вероятностную оценку, указывающую на процент вероятности того, что изображение было создано ИИ. Приложение проверяет наличие невидимого водяного знака SynthID от Google, что позволяет проверять совместимые изображения прямо на устройстве. При обнаружении водяного знака SynthID приложение предоставляет дополнительное свидетельство происхождения изображения от ИИ.
Тестирование детектора
Для оценки производительности приложения я протестировал его с несколькими собственными изображениями. Первое изображение представляло собой стилизованное изображение домашнего бассейна, созданное с помощью ИИ. Приложение определило его как созданное ИИ с уверенностью более 93%.
Затем я протестировал другое AI-изображение сада с деревянной скамейкой. Это изображение было намного более убедительным, и приложение вернуло почти равномерное разделение: 50,4% созданного ИИ против 49,6% реального. Приложение классифицировало изображение как "Вероятно сгенерировано ИИ", показывая, что некоторые изображения находятся в серой зоне и не дают однозначного результата.
Для сравнения я отсканировал два подлинных фотографических снимка. На одной были видны высокие деревья в лесу, снятые снизу вверх, на другой - чёрно-белая фотография концерта, сделанная с позиции слушателя. Приложение корректно определило оба снимка как реальные.
Специалисты рекомендуют снижать риск мошенничества путём проверки неожиданных запросов через другие надёжные каналы, использования инструментов обнаружения ИИ, включения двухфакторной аутентификации, ограничения личных медиаматериалов, которыми вы делитесь в сети, и ознакомления с новыми методами создания дипфейков.
Заключительные размышления
Slop or Not способен анализировать подозрительные посты в социальных сетях, AI-генерируемые портреты, отредактированные фотографии, товарные изображения и скриншоты, распространяемые через мессенджеры. Студенты и преподаватели могут использовать приложение для проверки эссе на наличие текста, созданного ИИ, журналисты и проверяющие факты могут верифицировать изображения перед публикацией, а компании могут проверять отчёты, маркетинговый контент или конфиденциальные документы без загрузки чувствительных файлов в облачные сервисы.
Я рекомендую Slop or Not всем, кто регулярно сталкивается с контентом, созданным ИИ, ценит приватность или хочет получить дополнительный уровень защиты от мошенничества и дезинформации. Вместе с тем, обнаружение ИИ не является точной наукой, и ни один инструмент не может гарантировать идеальную точность. Влияние ИИ не является полностью чёрно-белым вопросом. Инструменты наподобие Slop or Not могут поддерживать принятие обоснованных решений, но они должны дополнять, а не заменять критическое мышление и человеческое суждение.
