Хотите более умное понимание в вашем почтовом ящике? Подпишитесь на наши еженедельные информационные бюллетени, чтобы получить только то, что имеет значение для искусственного интеллекта предприятия, данных и лидеров безопасности. Подписаться сейчас
Недавняя сага Сэма Альтмана и спекуляция о новаторской модели Openai Q* возобновила общественный интерес к возможностям и рискам искусственной общей разведки (AGI).
AGI может изучать и выполнять интеллектуальные задачи, сравнимые с людьми. Свифт -достижения в ИИ, особенно в глубоком обучении, вызвали оптимизм и опасения по поводу появления AGI. Несколько компаний, в том числе Openai и Elon Musk’s Xai, стремятся развивать AGI. Это поднимает вопрос: ведут ли текущие разработки ИИ к AGI?
Возможно, нет.
Ограничения глубокого обучения
Глубокое обучение, метод машинного обучения (ML), основанное на искусственных нейронных сетях, используется в CHATGPT и в значительной степени современного искусственного интеллекта. Он приобрел популярность благодаря своей способности обрабатывать различные типы данных и снижение потребности в предварительной обработке, среди прочих преимуществ. Многие считают, что глубокое обучение будет продолжать продвигаться и играть решающую роль в достижении AGI.
Однако глубокое обучение имеет ограничения. Большие наборы данных и дорогие вычислительные ресурсы необходимы для создания моделей, отражающих учебные данные. Эти модели выводят статистические правила, которые отражают реальные явления. Эти правила затем применяются к текущим данным реального мира для генерации ответов.
Следовательно, методы глубокого обучения следуют логике, сосредоточенной на прогнозировании; Они повторно обновлены обновленные правила, когда наблюдаются новые явления. Чувствительность этих правил к неопределенности мира природы делает их менее подходящими для реализации AGI. В июне 2022 года авария круизного роботакси может быть связана с тем, что транспортное средство столкнется с новой ситуацией, для которой ему не хватало обучения, что делает его неспособным принимать решения с уверенностью.
«Что если» загада
Люди, модели для AGI, не создают исчерпывающие правила для реальных событий. Люди, как правило, взаимодействуют с миром, воспринимая его в режиме реального времени, полагаясь на существующие представления, чтобы понять ситуацию, контекст и любые другие случайные факторы, которые могут влиять на решения. Вместо того, чтобы построить правила для каждого нового явления, мы перепрофилируем существующие правила и изменяем их по мере необходимости для эффективного принятия решений.
Например, если вы путешествуете по лесной тропе и сталкиваетесь с цилиндрическим объектом на местах и хотите определить свой следующий шаг, используя глубокое обучение, вам необходимо собрать информацию о различных особенностях цилиндрического объекта, классифицировать его как потенциальную угрозу (змея) или не угрожающую (веревка) и действие, основанную на этой классификации.
И наоборот, человек, вероятно, начнет оценивать объект на расстоянии, постоянно обновлять информацию и выбрать надежное решение, взятое из «распределения» действий, которые оказались эффективными в предыдущих аналогичных ситуациях. Этот подход фокусируется на характеристике альтернативных действий в отношении желаемых результатов, а не прогнозирования будущего — тонкой, но отличительной разницы.
Достижение AGI может потребовать расходящегося от прогнозных вычетов к усилению индуктивного «что если …?» емкость, когда прогнозирование невозможна.
Принятие решений при глубокой неопределенности на пути вперед?
Принятие решений в рамках методов глубокой неопределенности (DMDU), таких как надежное принятие решений, может обеспечить концептуальную основу для реализации рассуждений AGI по поводу выбора. Методы DMDU анализируют уязвимость потенциальных альтернативных решений в различных будущих сценариях, не требуя постоянного переподготовки на новых данных. Они оценивают решения, определяя критические факторы, общие среди тех действий, которые не соответствуют предопределенным критериям результата.
Цель состоит в том, чтобы определить решения, которые демонстрируют надежность — способность хорошо работать в разных будущих будущих. В то время как многие подходы к глубокому обучению приоритет оптимизированным решениям, которые могут потерпеть неудачу, когда сталкиваются с непредвиденными проблемами (такие как оптимизированные системы снабжения, представляя собой в соответствии с COVID-19), методы DMDU приправляют надежные альтернативы, которые могут торговать оптимальностью на способность достичь приемлемых результатов во многих средах. Методы DMDU предлагают ценную концептуальную основу для разработки ИИ, которая может ориентироваться в реальной неопределенности.
Разработка полностью автономного транспортного средства (AV) может продемонстрировать применение предлагаемой методологии. Задача заключается в навигации по различным и непредсказуемым реальным условиям, подражая таким образом навыки принятия людей во время вождения. Несмотря на существенные инвестиции автомобильных компаний в использование глубокого обучения для полной автономии, эти модели часто борются в неопределенных ситуациях. Из -за непрактичности моделирования всех возможных сценариев и учету неудач, решающаяся решать непредвиденные проблемы в разработке AV продолжается.
Надежные решения
Одно потенциальное решение включает в себя принятие надежного подхода к принятию решений. AV-датчики будут собирать данные в режиме реального времени для оценки целесообразности различных решений, таких как ускорение, изменение полосы движения, торможение-в пределах конкретного сценария трафика.
Если критические факторы вызывают сомнения относительно алгоритмического ответа Rote, система затем оценивает уязвимость альтернативных решений в данном контексте. Это уменьшит непосредственную потребность в переподготовке на массивных наборах данных и способствует адаптации к реальной неопределенности. Такой сдвиг парадигмы может повысить производительность AV, перенаправляя фокус от достижения идеальных прогнозов для оценки ограниченных решений, которые AV должен принимать для работы.
Контекст принятия решений будет продвигать AGI
По мере развития ИИ нам может потребоваться уйти от парадигмы глубокого обучения и подчеркнуть важность контекста принятия решений для продвижения к AGI. Глубокое обучение было успешным во многих приложениях, но имеет недостатки для реализации AGI.
Методы DMd
Swaptik Chowdhury — доктор философии. Студент в аспирантуре Pardee Rand и помощником исследователя политики в некоммерческой, непартийной корпорации RAND.
Стивен Поппер — адъюнкт -старший экономист в корпорации RAND и профессор наук о принятии решений в Tecnológico de Monterrey.
Источник
