После президентских выборов в США в 2024 году ложная информация быстро распространилась в Интернете, серьезно повлияв на общественное мнение. Развитие технологии генеративного искусственного интеллекта и ее способности генерировать дипфейки и «галлюцинаторные» факты еще больше усугубляют эту проблему. Для решения этой проблемы возникла норвежская стартап-компания Factiverse. Компания стремится использовать технологию искусственного интеллекта для проверки фактов в режиме реального времени, чтобы помочь компаниям снизить риски и повысить достоверность информации. Редактор Downcodes подробно объяснит Factiveverse и его технические преимущества.
После президентских выборов в США в 2024 году тревожная скорость распространения ложной информации в Интернете серьезно повлияла на взгляды американцев на кандидатов, а также на такие темы, как общественное здравоохранение, изменение климата и иммиграция. Развитие генеративного искусственного интеллекта в сочетании с его способностью генерировать дипфейки и склонностью «галлюцинировать» факты может еще больше усугубить эту проблему.
Примечание к источнику изображения: изображение генерируется искусственным интеллектом и поставщиком услуг авторизации изображений Midjourney.
Для решения этой проблемы появился норвежский стартап Factiveverse. В октябре компания приняла участие в конкурсе TechCrunch Disrupt Battlefield200 и выиграла лучшую презентацию в категориях «Безопасность», «Конфиденциальность» и «Социальные сети». Factiveverse разработала инструмент для бизнеса, который позволяет проверять текст, видео и аудио контент в режиме реального времени. Цель компании — помочь компаниям сэкономить время на исследования и снизить репутационный риск и юридическую ответственность.
Основанная в 2020 году, Factiveverse все еще находится на ранней стадии своего развития и собрала около 1,45 миллиона долларов. Тем не менее, Factiveverse уже начал работать с несколькими медиа- и финансовыми партнерами, включая один из крупнейших банков Норвегии. Мария Амели, генеральный директор и соучредитель Factiveverse, рассказала, что они даже предоставили сервис проверки фактов в режиме реального времени для президентских дебатов в США, которым воспользовались многие СМИ.
Амели подчеркнула, что Factiverse — это не большая языковая модель (LLM), а модель, построенная на основе поиска информации. Будучи бывшим техническим журналистом и автором публикаций, Амели обладает обширным опытом сбора фактов, работая с соучредителем и техническим директором Виной Сетхи. Их модели ИИ обучены на высококачественных данных из надежных источников и специалистов по проверке фактов со всего мира, а не на «данных о нездоровой пище», используемых генеративным ИИ.
Модель использует машинное обучение и технологию обработки естественного языка для выявления претензий к информации в режиме реального времени и поиска их в Интернете, включая поисковые системы, такие как Google и Bing, а также научные статьи. «Самое интересное заключается в том, что мы не просто показываем первый результат в поисковой системе, а предлагаем самые надежные источники, чтобы гарантировать авторитетность контента», — сказала Амели.
В настоящее время Factiveverse утверждает, что превосходит GPT-4, Mistral7-b и GPT-3 в своей способности идентифицировать утверждения, достойные проверки фактов, на 114 языках. Амели отметила, что показатель успеха Factiverse составляет около 80%, и будущая цель — привлечь больше клиентов по всему миру и повысить точность.
В заключение Амели сказала: «У нас достаточно средств, чтобы быть лучшими, но наша цель в США — стать самой быстрорастущей компанией». Она также упомянула, что Factiveverse планирует провести новый раунд финансирования в 2025 году и с нетерпением ждет Attract. клиенты и инвесторы, которые готовы инвестировать в доверие и надежность.
Появление Factiveverse предоставляет новое решение для борьбы с распространением ложной информации в информационный век. Ее технические преимущества и перспективы развития достойны внимания. Мы ожидаем, что в будущем Factiveverse будет играть более важную роль в глобальном масштабе и будет способствовать созданию более достоверной и надежной информационной среды. Редактор Downcodes и дальше будет уделять внимание тенденциям его развития.