Эра интеллекта вступила в новую главу, и новые технологии, такие как ИИ (искусственный интеллект), ускоряют интеграцию с различными отраслями реального мира. Также возникает вопрос: куда нас приведет волна развития ИИ? Как нам следует противостоять технологическим изменениям?
С 5 по 7 сентября в Шанхае прошла конференция Бунда 2024 года. Будучи всемирно влиятельной конференцией по финансовым и передовым технологиям, конференция Бунда построила мост между технологиями и гуманитарными науками и стала важным окном для наблюдения за внедрением и развитием китайской индустрии искусственного интеллекта.
Официально выпущен интеллектуальный агент Huangshan Scenic Spot, крупномасштабная модель iFlytek Spark Medical, демонстрация продукции Guodun Quantum, Школа киберпространственной безопасности Университета науки и технологий Китая выступила одним из организаторов выставочного конкурса Global Deepfake Наступательные и оборонительные вызовы... многие «сцены Аньхой» «Элементы Аньхой» также появились одновременно, демонстрируя гуманистическую глубину и теплоту науки и техники вместе с конференцией Бунда, благодаря чему «чем больше технологии продвигаются вперед, тем больше они приносят пользу всем». продолжает становиться реальностью.
Более профессиональный ИИ
Точно так же, как паровой двигатель изменил мир, поскольку он начал интегрироваться с кораблями, поездами и текстильными машинами, сфера искусственного интеллекта также претерпевает ключевую эволюцию от «Битвы сотен моделей» к «Промышленному применению».
Цифровые аватары помогают завершить работу, компьютеры мозга помогают погрузиться в глубокий сон, а искусственные мышечные волокна тепло обнимают... Конференция в Бунде стала конкретной демонстрацией нынешнего глобального повального увлечения индустрией искусственного интеллекта. Эксперты прогнозируют, что промышленное внедрение в течение пяти лет станет ключом к дальнейшему развитию технологии больших моделей.
Как говорится: «Профессиональное дело оставьте профессионалам». Потребности каждого человека и каждой отрасли уникальны. Для искусственного интеллекта, который расширяет возможности тысяч отраслей, для решения более профессиональных задач может потребоваться более профессиональный ИИ.
Поэтому продвижение крупных моделей от общих возможностей до персонализированных приложений — одно из основных предложений индустрии искусственного интеллекта.
На этой конференции в Бунде компании Huangshan Scenic Spot и Alipay впервые представили «Huangshan Scenic Spot» с концепцией «космического» обслуживания, используя в качестве технической базы большую модель Ant Bailing. В результате Huangshan Scenic Spot стала первой. «полный AI-сопровождение» в Китае. Живописные места.
Интеллектуальные агенты, являясь формой продукта генеративного искусственного интеллекта, являются основным направлением современных приложений для больших моделей, позволяя большим моделям расти «руками и ногами». Пространственный интеллектуальный агент использует «AOI» (Область интереса) в качестве основной организации обслуживания и метода представления. Когда интеллектуальный агент чувствует, что пользователь вошел в живописную зону Хуаншань, он будет использовать ИИ для анализа и продвижения услуг, которые пользователю, скорее всего, понадобится.
Например, прежде чем пользователь купит билет, «Huangshan Space Intelligence» проинформирует пользователя о температуре в живописном месте, рекомендациях по одежде и разумно порекомендует путеводители, когда пользователь прибудет к входу в живописное место; QR-код билета будет автоматически получен; когда пользователь узнает, что когда пользователь начинает подниматься на гору, пользователю будет объяснено каждое живописное место на пути, когда пользователь достигнет выхода из живописного места, и сможет получить интересные данные о поездке; генерироваться одним щелчком мыши. Кроме того, можно быстро вызвать и открыть общие велосипеды, онлайн-заказы на поездки и другие услуги, обычно используемые во время путешествий.
«На волне развития искусственного интеллекта индустрия культурного туризма также начинает и переживает беспрецедентную революцию в технологиях и сценариях». Чжан Дэхуэй, председатель Huangshan Tourism Development Co., Ltd., сказал, что по сравнению с традиционным «едино- модель «кодового тура» и «тура на одной машине», «Huangshan Scenic Area Intelligent» объединяет технологию больших моделей. технологии, база знаний о культурном туризме, алгоритм больших данных, голосовое взаимодействие и новейшие прикладные продукты, которые могут реализовать независимое обучение и саморазвитие. «Хотя это первоначальный продукт для исследования и испытаний, он требует постоянных итеративных обновлений, но это знаменует собой наше будущее. прогресс в развитии культуры и туризма». Цифровая трансформация туристической индустрии сделала еще один революционный шаг».
Просвещение по «Вопросам науки, техники и гуманитарных наук»
Любая технологическая инновация в истории человечества сопровождается «волнением» и «тревогой».
Как бороться с ИИ, конкурирующим за рабочие места с людьми? Ухудшится ли способность человеческого мышления из-за ИИ? Насколько далека эпоха «симбиоза человека и машины»? Может ли ИИ превзойти свойства инструментов, обрести сознание и даже основать цивилизацию ИИ? … Из «Десяти вопросов по науке, технологиям и гуманитарным наукам», опубликованных на конференции Бунда, видно, что отношение общественности к ИИ более сложное, с большой технологической тревогой.
Будущее вверх и вперед, а наука и техника хороши и прекрасны. Независимо от того, как меняются прорывные технологии, ориентация на людей всегда является первым принципом.
На конференции в Бунде Чжоу Цзянь, 24-летний мужчина, потерявший правую руку в 12 лет, использовал искусственный интеллект и технологию интерфейса «мозг-компьютер», чтобы сыграть бионической рукой фортепианную песню «Big Fish», позволив Зрители выражают свою признательность за развитие технологий на службе человечества. Благополучие ощущается интуитивно.
Стоит отметить, что хотя новые технологические изменения несут с собой новые сценарии, новые виды бизнеса и новые рынки, они также несут беспрецедентные риски и проблемы с точки зрения технологической этики. Как способствовать быстрому развитию технологии искусственного интеллекта, обеспечивая при этом ее безопасность, надежность и управляемость, чтобы искусственный интеллект мог более ответственно приносить пользу человеческому обществу?
Возьмем в качестве примера большие модели искусственного интеллекта. В настоящее время крупные модели внедряются в различных отраслях с ускорением. В частности, изменение таких сложных отраслей, как здравоохранение и финансы, является беспрецедентным. Однако эти строгие отрасли также имеют высочайшую этику. стандарты и сложнейшая область этических отношений.
Чжао Цзинхэ, вице-президент Медицинского научно-исследовательского института iFlytek, поделился текущим прогрессом в применении и исследованием этики безопасности медицинской модели Spark от iFlytek на конференции в Бунде. Что касается проблем, с которыми сталкивается применение больших моделей в медицинских сценариях, он считает, что «основными проблемами являются конфиденциальность данных, права интеллектуальной собственности и моральная ответственность. Только позволив большим моделям действительно решать эти проблемы, мы можем по-настоящему помочь врачам, пациентам, научные исследования и другие сценарии».
«С точки зрения толкования закона необходимо не только регулировать и законодательствовать на государственном уровне, чтобы обеспечить законность и соответствие масштабным моделям; компании также должны соблюдать характер медицинской помощи, принимать меры по усилению данных; защиты и получить необходимое разрешение на соблюдение авторских прав. Обеспечьте справедливость и соответствие модели, одновременно повышая прозрачность и укрепляя государственное образование», — сказал Чжао Цзинхэ.
Будучи одной из важных научно-технических инновационных компаний Аньхоя, Guodun Quantum также представила различные продукты, связанные с информационной безопасностью офиса. «Например, наша Bluetooth-гарнитура включает в себя технологию защиты конфиденциальности голосовой связи, независимо разработанную Guodun Quantum, которая может эффективно защищать личную информацию пользователей во время звонков, голосовых сообщений и т. д., благодаря чему пользователи чувствуют себя более комфортно во время общения». Представленный Чжан Рутун, технический директор Shield Quantum Solutions.
Некоторые эксперты более оптимистичны в отношении того, как обеспечить, чтобы технологии всегда приносили пользу человеческому благосостоянию. «Многие проблемы, о которых мы беспокоимся сегодня, возможно, не самые трудные для решения. Настоящие проблемы могут быть неизвестными проблемами, которые мы еще не представляли. Один из лучших способов достичь будущего, основанного на искусственном интеллекте, которого мы хотим, — это активно участвовать, - заявил на конференции Бунда известный футурист Кевин Келли.
Используйте ИИ для борьбы с «мошенничеством с использованием ИИ»
С быстрым развитием технологий искусственного интеллекта технология дипфейков (Deepfake), которая использует алгоритмы глубокого обучения для моделирования и подделки аудио- и видеоконтента, становится все более зрелой. Такие злостные инциденты, как «мошенничество с использованием искусственного интеллекта», произошедшие в последние годы. вызвали интерес людей к применению технологий. Думая о риске.
Это может быть эффективным способом использования технологии ИИ для точного выявления и предотвращения риска «изменения лица ИИ» и «использования ИИ для победы над ИИ». Однако может ли ИИ идентифицировать фейки, созданные ИИ?
Ответ на этот вопрос дает конкурс, посвященный рискам мошенничества, связанным с технологией «изменения лица с помощью искусственного интеллекта». В выставочном конкурсе AI Innovation Competition of the Bund Conference и Global Deepfake Offensive and Defense Challenge вопрос был совместно представлен Школой киберпространственной безопасности Университета науки и технологий Китая и Лабораторией цифровой размерности Ant. Участники использовали изученные ими модели ИИ для модификации ИИ. Обнаруживайте и идентифицируйте обработанные изображения и видео.
В дорожке изображений 9 картинок, правдивые и ложные которых сложно отличить невооруженным глазом, но участникам необходимо использовать свои собственные модели-участницы, чтобы дать вероятность подделки для каждой картинки, и сравнить две фотографии с наивысшие значения вероятности при правильных ответах. В видеодорожке игрокам также приходится использовать модели искусственного интеллекта для определения подлинности видео.
Стоит отметить, что по баллам участников на месте по некоторым умеренно сложным вопросам результаты обеих сторон были близки, а процент распознавания подделок был почти выше 80%. Однако по некоторым очень сложным вопросам модель дает результаты. были очень разными.
Кто-то на месте происшествия спросил: «Почему ИИ не может полностью ответить на картинку, которая невооруженным глазом выглядит фальшивой? А картинку, которую трудно различить невооруженным глазом, ИИ может распознать за одну секунду?»
В связи с этим Чжоу Тяньи, главный научный сотрудник Пограничного исследовательского центра искусственного интеллекта Сингапурского агентства по науке, технологиям и исследованиям, считает, что люди полагаются на интуицию и логику, чтобы судить, является ли изображение поддельным, например, если лицо другого человека. заменяется лицом киноактера, люди могут понять это с первого взгляда. ИИ не понимает, что за этим стоит. Но ИИ не так восприимчив к эмоциональному вмешательству, как люди, и он будет тщательно выполнять инструкции. С этой точки зрения ИИ «превосходит» людей с точки зрения эффективности и стабильности работы.
Однако разработка алгоритмов обнаружения — лишь один из способов ограничить злоупотребление технологией дипфейков. Яо Вейбинь, один из разработчиков игровых вопросов, признал, что этот метод относительно отстает. Чтобы предотвратить мошенничество по основной причине, мы должны потребовать установления универсального идентификатора для контента AIGC с точки зрения стандартов и законодательства. Например, каждое видео или изображение, созданное AIGC, должно иметь подпись или водяной знак в информации о файле. что управление платформой имеет больше оснований.
«Для широкой публики глубокая подделка теперь очень вероятна и постепенно вошла в нашу жизнь и даже привела к утечке конфиденциальной информации людей». в общественных местах показывайте собственные данные о лице и максимально избегайте утечки данных о лице «По мере того, как технология синтеза становится все лучше и лучше, нас будут обманывать все глубже и глубже, но пока мы можем сохранять бдительность, мы будем оставаться начеку». все еще может иметь большое влияние». Вероятность не подвергается риску из-за мошенничества».