Хотите более умное понимание в вашем почтовом ящике? Подпишитесь на наши еженедельные информационные бюллетени, чтобы получить только то, что имеет значение для искусственного интеллекта предприятия, данных и лидеров безопасности. Подписаться сейчас
В пятницу Google официально извинился за смущающие и неточные изображения, сгенерированные новым инструментом Gemini AI. Извинения возникают после того, как пользователи выделили проблемы с Близнецами, производящими ахисторические и расово разнообразные изображения для конкретных подсказок о таких группах, как нацистские солдаты и отцы -основатели США.
В сообщении в блоге старший вице -президент Google Прабхакар Рагхаван сказал, что некоторые из изображений были «неточными или даже оскорбительными», признав, что компания «пропустила знак».
Рагхаван объяснил, что Google стремился избежать предвзятости, обеспечив, что ИИ производил широкий спектр людей для открытых подсказок. Однако для конкретных исторических контекстов результаты должны точно отражать подсказку.
«Если вы попросите фотографию футболистов или кого -то, кто выгуливает собаку, вы можете получить ряд людей», — объяснил Рагхаван. «Вы, вероятно, не просто хотите получать только изображения людей только одного типа этнической принадлежности».
«Однако, если вы предпринимаете Близнецы для изображений конкретного типа человека … или людей, в частности, культурного или исторического контекста, вы должны абсолютно получить ответ, который точно отражает то, о чем вы просите», — добавил он.
Предвзятость и разнообразие остаются проблемами для ИИ
Эта проблема подчеркивает проблемы предубеждений в системах ИИ и то, насколько они сложно пожимать. Несколько других систем ИИ столкнулись с критикой за усиление стереотипов и отсутствие разнообразия в прошлом. Google, кажется, перекоррелся, ищет разнообразие даже для исторического контекста, где это не имеет смысла.
После своего запуска Близнецы регулярно создавали изображения небелых сенаторов США в 1800-х годах и расово разнообразных нацистских солдат, вызвав насмешки и обвинения в политкорректности. Критики варьировались от технических лидеров до правых фигур, которые рассматривают Google как продвижение идеологии «разбуженной».
Google ответил временно остановив способность Близнецов генерировать изображения людей в четверг. Компания заявляет, что будет работать для улучшения этой функции, прежде чем перезапустить ее.
Близнечный беспорядок раскрывает более глубокие проблемы
Споры Близнецов ограничивают скалистый старт для недавних амбиций Google. Эта последняя ошибка наступила вскоре после того, как компания столкнулась с негативной реакцией для поставленного рекламного видео, которое преувеличило возможности Gemini и критику своей предыдущей модели ИИ, Google Bard.
С такими конкурентами, как Microsoft и Openai, впереди в ИИ, Google теперь пытается установить свое видение «эпохи Близнецов». Тем не менее, быстрая последовательность продукта ИИ и ребрендинг, от Барда до Близнецов и его многочисленных версий, в результате чего потребители запутались.
Недавние сбои ИИ компании подчеркивают сложность балансировки исторической точности с разнообразием и представительством. Но они также указывают на более глубокие проблемы в стратегии Google. Компания, которая когда -то возглавляла поиск, сейчас изо всех сил пытается предоставить последовательные и полезные продукты ИИ.
Отчасти это связано с культурой Tech «двигаться быстро и нарушать вещи». Google бросила Близнецов и его братьев и сестер на рынок, чтобы соперничать с CHATGPT Openai. Но его подход ScatterShot, кажется, распространяет недоверие потребителей. Google должен восстановить доверие с помощью вдумчивой дорожной карты ИИ, а не более бесполезными запусками.
Эта последняя ошибка также раскрывает проблемы в процессе разработки ИИ Google. Как сообщалось ранее, усилия по выпечке этики в ИИ в компании неоднократно остановились. Google нуждается в более инклюзивных и разнообразных командах искусственного интеллекта. И ему нужны лидеры, которые безопасно понимают мощные технологии, не только быстро.
Если Google не удается учиться на своих первых шагах в этом возрасте ИИ, он рискует отставать. Пользователям нужна ясность, а не больше хаоса. Близнечный беспорядок показывает, что Google потерял контроль как ИИ, так и его обмена сообщениями. Только подход к бабнику может восстановить общественное доверие. Будущее Google AI вполне может зависеть от этого.
Источник
