Хотите более разумное понимание в вашем почтовом ящике? Подпишитесь на наши еженедельные информационные бюллетени, чтобы получить только то, что имеет значение для искусственного интеллекта предприятия, данных и лидеров безопасности. Подписаться сейчас
Открытый научный журнал, Границы в клеточной биологии и развитииНа этой неделе был открыто критикует и насмехается со стороны исследователей в социальных сетях после того, как они заметили, что публикация недавно разместила статью, включающую образы с табличками, и диаграммами анатомически неверных яичек млекопитающих и сперматозоидов, которые имели признаки создания генератора изображений ИИ.
С тех пор публикация отреагировала на одного из ее критиков в социальной сети X, опубликовав из своей проверенной учетной записи: «Мы благодарим читателей за их изучение наших статей: когда мы ошибаемся, краудсорсинговая динамика открытой науки означает, что обратная связь с сообществом помогает нам быстро исправить запись». Он также удалил статью под названием «Клеточные функции сперматогониальных стволовых клеток по отношению к сигнальному пути JAK/STATИз его веб -сайта и выпустил уведомление о втязываниях, заявив:
«После публикации были подняты опасения относительно характера его сгенерированных AI фигур. Статья не соответствует стандартам редакционной и научной строгости для границ в биологии клеток и развития; поэтому статья была отозвана.
Это отзыв был утвержден главным исполнительным редактором Frontiers. Границы хотели бы поблагодарить заинтересованных читателей, которые связались с нами по поводу опубликованной статьи.«
Слова с ошибками и анатомически неверные иллюстрации
Тем не менее, VentureBeat получил копию и переиздал оригинальную статью ниже в интересах поддержания публичной записи.
Как вы можете наблюдать в нем, он содержит несколько графиков и иллюстраций, представленных в, казалось бы, ясном и красочном научном стиле, но увеличение, есть много слов с ошибками и неправильных букв, таких как «защитные» вместо «белков», и слово «Zxpens».
Возможно, наиболее проблематичным является изображение «крысы» (правильно написано), которое появляется первым в статье и демонстрирует огромный рост в своей области паха.
Взорвался на х
Вскоре после публикации газеты 13 февраля 2024 года исследователи отправились в X, чтобы вызвать это и задаться вопросом, как это произошло через рецензирование.
Документ создан Синью Го и Динджун Хао из Департамента хирургии позвоночника, больницы Хонг Хуи в Университете Сиан Цзяотонг; а также Лян Донг из департамента хирургии позвоночника, больница Xi’an Honghui в Сиане, Китай.
Он был рассмотрен Бинсилой Б. Кришнан из Национального института питания и физиологии животных (ICAR) в Индии и Джингбо -Дай северо -западной медицины в Соединенных Штатах. Он был отредактирован Арумугамом Кумарезаном в Национальном институте научно -исследовательских наук (ICAR) в Индии.
Venturebeat обратился к всем авторам и редакторам газеты, а также на Аманде Гей Фишер, главный редактор журнала и профессор биохимии в престижном Оксфордском университете в Великобритании, чтобы задать дополнительные вопросы о том, как была опубликована статья, и обновлю, когда мы услышим.
Беспококие более широкие последствия для влияния ИИ на науку, исследования и медицину
ИИ рекламировался в качестве ценного инструмента для продвижения научных исследований и открытий некоторыми из его производителей, в том числе Google с его предиктором Alphafold Protein Structure и материаловедения Ai Gnome, недавно охватывающей прессу (включая VentureBeat) для обнаружения 2 миллионов новых материалов.
Тем не менее, эти инструменты сосредоточены на стороне исследования. Когда дело доходит до издательский Это исследование, очевидно, что генераторы изображений ИИ могут представлять серьезную угрозу для научной точности, особенно если исследователи используют их без разбора, чтобы разрезать углы и публиковать быстрее, или потому, что они вредны или просто не заботятся.
Движение по использованию ИИ для создания научных иллюстраций или диаграмм вызывает беспокойство, потому что он подрывает точность и доверие среди научного сообщества и широкой общественности, что работа, входящая в важные области, влияющие на нашу жизнь и здоровье — такие как медицина и биология, является точной, безопасной и проверенной.
Тем не менее, это также может быть продуктом более широкого «публикационного или погибшего» климата, который возник в науке за последние несколько десятилетий, в котором исследователи подтвердили, что чувствуют необходимость выбросить статьи о небольших значениях, чтобы показать, что они что -то вносят, что-либодля их области, и укрепляют количество цитат, приписываемых им другими, заполняя их резюме для будущих рабочих мест.
Но также давайте будем честными — некоторые из этих исследователей в этой документации в области операции на позвоночнике в человеческой больнице: вы бы доверяли им, чтобы они работали на вашем позвоночнике или помогут со здоровьем спины?
С более чем 114 000 ссылок на его название, журнал Границы в клеточной биологии и развитии Теперь поставила свою целостность под сомнением в этой промежутке: сколько еще опубликованных им статей есть с диаграммами, которые проскользнули в процесс обзора?
Интригующе, Границы в клеточной биологии и развитии является частью более широкого Границы Компания из более чем 230 различных научных публикаций, основанных в 2007 году нейробиологов Камилой Маркрам и Генри Маркрамом, первая из которых все еще указана в качестве генерального директора.
Компания заявляет, что «видение (есть), чтобы сделать науку открытой, рецензируемой, прозрачной, прозрачной и эффективной и использовать способность технологии для поиска потребностей исследователей», и на самом деле некоторые технологии, которые она использует, является ИИ для обзора.
Как Границы Провозглашен в пресс -релизе 2020 года:
«В первую очередь в индустрии развертывается искусственный интеллект (ИИ), чтобы помочь в обзоре исследовательских работ и помощи в процессе рецензирования. Современный помощник по обзору искусственного интеллекта (AIRA), разработанный издательными границами с открытым доступом, помогает редакторам, рецензентам и авторам оценивать качество рукописей. Aira читает каждую статью и в настоящее время может составлять до 20 рекомендаций за считанные секунды, включая оценку качества языка, целостность цифр, обнаружение плагиата, а также выявление потенциальных конфликтов интересов.«
На веб -сайте компании отмечается, что Aira дебютировала в 2018 году как «Следующее поколение обзора, в котором ИИ и машинное обучение обеспечивают более строгий контроль качества и эффективность в обзоре..
И только прошлым летом статья и видео с участием Мирджама Экерта, директора по издательству в Границызаявил:
«В Frontiers мы применяем ИИ, чтобы помочь построить это доверие. Наш ассистент по обзору искусственного интеллекта (AIRA) проверяет, что научные знания точно и честно представлены еще до того, как наши люди решат, пересматривать, одобрить или публиковать исследовательский документ, который его содержит.
Aira читает каждую исследовательскую рукопись, которую мы получаем, и выпускает до 20 чеков в секунду. Эти проверки охватывают, среди прочего, качество языка, целостность фигур и изображений, плагиат и конфликт интересов. Результаты дают редакторам и рецензентам еще одну перспективу, когда они решают, чтобы поставить исследовательскую работу через нашу строгий и прозрачный рецензирование.«
Границы также получил благоприятное освещение ассистента по обзору статьи AI AIRA в таких заметных публикациях, как New York Times и Финансовые временаПолем
Очевидно, что инструмент не смог эффективно поймать эти бессмысленные изображения в статье, что приводило к его отвлечению (если в этом случае он использовался вообще). Но это также поднимает вопросы о способности таких инструментов искусственного интеллекта для обнаружения, флага и в конечном итоге прекратить публикацию неточной научной информации — и растущую распространенность его использования в Границы и в других местах по всей издательской экосистеме. Возможно, это опасность быть на «границе» нового технологического движения, такого как ИИ-риск того, что он идет не так, выше, чем с «проверенным и правдивым», только человеческим или аналоговым подходом.
VentureBeat также полагается на инструменты искусственного интеллекта для генерации изображений и некоторого текста, но все статьи рассматриваются человеческими журналистами до публикации. ИИ не использовался VentureBeat в написании, отчетности, иллюстрации или публикации этой статьи.
Источник
