Гонка по обнаружению дипфейков разгорается, поскольку стартапы и известные фирмы, занимающиеся разработкой ИИ, разрабатывают собственные инструменты для борьбы с распространением контента, созданного нейросетями с целью обмана.
Intel, известная своим опытом в области исследований ИИ, создала FakeCatcher, технологию обнаружения дипфейков в режиме реального времени, которая, как утверждается, выявляет видео с ИИ с точностью 96%.
Video Authenticator от Microsoft использует исчезающие элементы серого цвета и мельчайшие детали для анализа фотографий и видео, определяя, были ли они подвергнуты цифровым манипуляциям.
DARPA, исследовательское подразделение вооруженных сил США, в рамках своей программы SemaFor работает над алгоритмами семантического и статистического анализа для защиты от манипулированных изображений и дезинформации.
OpenAI, компания, создавшая генератор изображений DALL-E и ChatGPT, разрабатывает классификаторы ИИ для предотвращения неправомерного использования своих продуктов.
Такие стартапы по обнаружению глубоких подделок, как Optic, GPTZero, Reality Defender, Attestiv, Blackbird.AI, Sentinel, Fictitious.AI и Sensity AI, также используют технологии ИИ для обнаружения и ограничения распространения дипфейков в различных формах, включая изображения, текст и подмену лиц.
Эти компании предлагают ряд инструментов, которые помогают выявлять сгенерированный или измененный ИИ контент и снижать риски, связанные с манипуляциями в СМИ. По мере усиления борьбы с фальшивками эти инновации будут полезны.
