Хотите более умное понимание в вашем почтовом ящике? Подпишитесь на наши еженедельные информационные бюллетени, чтобы получить только то, что имеет значение для искусственного интеллекта предприятия, данных и лидеров безопасности. Подписаться сейчас
После противоречия, возникших в начале этой недели, когда пользователи поняли, что новый AI Chatbot Gemini генерирует ахисторические и неточные образы, такие как создание отцов -основателей, основанных в США и собственного основания Google, — компания объявила сегодня, что это временно приостанавливает способность ИИ полностью генерировать изображения.
Ранее Google заявил, что работает над решением вопросов, поднятых пользователями, и планирует восстановить функцию в более позднее время.
Что пошло не так с Близнецами?
Согласно скриншотам взаимодействий, разделяемых техническими лидерами, писателями и общими пользователями Близнецов, чат -бот генерирует образы цвета цвета и разных этнических групп даже в случаях исторического контекста, где они не применимы, такие как генерация черных католических пап (его никогда не было), что дает vikings Dark Skin (большинство не имели этого) и заставляя нацистских немецких солдат.
Модели ИИ, генерирующие изображение, часто настраиваются, чтобы избежать предвзятости и сосредоточиться на разнообразии, но поколения неточно широкого разнообразия Близнецов, оставив много обсуждения подхода Google к предвзятости и многим другим издевательствам, критикуя и троллинг компании.
В ответ на шквал сообщений, отмечающих эту проблему, старший директор Google по продукту Джек Кравчик взял на себя x, подтверждая эту проблему и что компания работает над тем, чтобы исправить ее.
Он сказал, что компания настраивает модель, предпринятую для размещения исторических нюансов, но будет продолжать сосредоточиться на разнообразии для открытых подсказок, таких как человек, идущий с собакой, чтобы отразить глобальную базу пользователей.
«В рамках наших принципов ИИ… мы разрабатываем наши возможности генерации изображений, чтобы отразить нашу глобальную базу пользователей, и мы серьезно относимся к представлению и предвзятости», — написал Кравчик в этом посте.
Тем не менее, проблема привлекла лавину критики со стороны пользователей и выдающихся технических лидеров, включая венчурных капиталистов Марк Андрессен и Пол Грэми поднял более широкие дебаты вокруг, если бы ИИ чат -боты, такие как Близнецы, можно было бы доверять, чтобы быть правдивыми или чрезмерно цензуры во имя современных стандартов разнообразия и равенства. Проблема даже проникла за пределы технологической индустрии, сделав первую страницу местной газеты Нью -Йорка, New York Postсегодня:
Не ожидаемый Google Era Era ‘Google
Хотя Google продолжает работать над решением проблемы, важно отметить, что это не самый первый случай, когда Близнецы делали заголовки по всем неправильным причинам.
Компания представила семейство моделей Gemini после долгих шумихов в декабре 2023 года и с тех пор была в списке, чтобы принести фронт «Эра Близнецов» и в центре. Google продвигал Gemini в качестве ведущей модели ИИ, сравнимой, и в некоторых случаях превзойдя GPT-4 Openai (который поддерживает CHATGPT)
Но вскоре после запуска его критиковали за то, что он выпустил устроенное видео, которое вводящее в заблуждение возможности Близнецов служат интеллектуальным цифровым помощником, способным к утонченному разговору и помощи в ежедневных задачах, и обзор независимых исследователей обнаружил, что Gemini на самом деле хуже Openai, GPT-3,5.
В начале этого месяца он переименовал The Bard Chatbot как Gemini, запустив расширенную версию для оплаты подписчиков, и даже переименовал и перезапустил Duet AI в качестве Gemini для рабочей области.
Новые версии Близнецов, 1,5 и продвинутых, обещали быть гораздо более мощными. Анекдотические примеры пользователей Укажите, что последняя версия чат -бота имеет впечатляющие возможности, особенно с помощью видео -анализа и резюме, а также Расположение многочисленных документов используя его чрезвычайно длинный контекст. Тем не менее, эти возможности могут быть омрачены в текущем и продолжающемся противоречиях.
Krawczyk писал, что помещение проблем, подобных неточному генерации изображений, помогает в процессе выравнивания — итерация обратной связи. Однако, если проблемы будут регулярно возникать, гиганту, возглавляющему Сундаром Пичаи, чтобы довести обоснование того, что Близнецы превосходят другие предложения ИИ.
Источник
