Даже «крестная мать ИИ» не знает, что такое общий ИИ

06.10.2024

Фей-Фэй Ли, «крестная мать ИИ», призналась, что не понимает, что такое общий искусственный интеллект (AGI) и сингулярность ИИ. Несмотря на свой огромный вклад в развитие этой области, включая создание фундамента для современных нейросетей ImageNet, исследовательница выразила сомнения в четком определении AGI. В то же время Ли активно выступает за развитие этичного и безопасного ИИ, но считает, что технологические компании не должны подвергаться чрезмерным ограничениям. Сейчас она работает над «пространственным интеллектом» в своем первом стартапе World Labs, который недавно оценили в $1 млрд.

«Я из мира академической науки и получила образование по более строгим и основанным на доказательствах методам, поэтому я не знаю, что значат эти слова. Честно говоря, я даже не совсем понимаю, что такое общий искусственный интеллект. Говорят, что его узнаешь, когда увидишь, но, похоже, я еще не столкнулась с ним. Я не трачу много времени на размышления об этих понятиях, потому что считаю, что есть гораздо более важные задачи», — сказала Ли на саммите в Сан-Франциско.

Ли Фей-Фей, будучи одной из пионеров в области искусственного интеллекта, заложила фундамент для современных нейронных сетей. По ее словам, интеллект увлекал ее с детства, а заниматься ИИ она начала в начале 2000-х, когда это еще не было так прибыльно.

В 2006 году Ли создала ImageNet, первый в мире большой набор данных для обучения и сравнительного анализа ИИ, который сыграл решающую роль в ускорении нынешнего бума ИИ.

В 2012 году ImageNet объединился с AlexNet и графическими процессорами. По словам Ли, многие называют это рождением современного ИИ. С 2017 по 2018 год она занимала должность главного научного сотрудника по искусственному интеллекту в Google Cloud. Сегодня Ли возглавляет Стэнфордский институт ИИ, ориентированный на человека, а ее стартап World Labs создает «большие модели мира».

Губернатор Калифорнии также поручил Ли Фей-Фей и другим экспертам в области искусственного интеллекта сформировать рабочую группу для разработки системы регулирования внедрения ИИ в штате. Ли подчеркнула, что ее подход будет основан на доказательствах, и выразила намерение активно поддерживать академические исследования в этой области. В то же время она стремится создать среду, в которой технологические компании не будут подвергаться чрезмерным ограничениям. Исследовательница высказалась о законопроекте SB 1047, на который губернатор штата наложил вето. Документ требовал проведения тестов на безопасность перед выпуском новых моделей ИИ и предоставлял генеральному прокурору Калифорнии право предпринимать правовые меры в случае нанесения ущерба моделями ИИ.

«Нам нужно реально взглянуть на потенциальное воздействие на людей, а не возлагать бремя на саму технологию. Было бы бессмысленно, если бы мы наказывали инженера-автомобилестроителя — скажем, Ford или GM — если автомобиль используется не по назначению или непреднамеренно и наносит вред человеку. Наказание инженера-автомобилестроителя не сделает автомобили безопаснее. Нужно внедрять инновации для более безопасных мер, а также улучшать нормативную базу, будь то ремни безопасности или ограничения скорости. То же самое касается ИИ», — сказала Ли.

В ближайшие пару лет она с нетерпением ждет возможности приблизить к реальности концепцию «пространственного интеллекта».

По словам Ли, человеческий язык, на котором основаны современные большие языковые модели, вероятно, развивался миллион лет, в то время как зрение и восприятие заняли 540 млн лет. Это означает, что создание «больших моделей мира» является гораздо более сложной задачей. Ли стремится не просто научить компьютеры видеть, но и понимать мир в трех измерениях.

Генеральный директор OpenAI Сэм Альтман ранее описал AGI как «эквивалент среднего человека, которого вы могли бы нанять в качестве коллеги». OpenAI определяет общий искусственный интеллект как «высокоавтономные системы, превосходящие людей по эффективности в большинстве видов экономически значимой деятельности». Но, видимо, этого определения оказалось недостаточно, и в OpenAI разработали внутреннюю шкалу из пяти уровней, по которой оценивается прогресс в создании общего искусственного интеллекта. Первый уровень — это чат-боты (такие как ChatGPT), затем следуют системы, способные к рассуждениям (по всей видимости, OpenAI o1 относился к этому уровню), далее — агенты (следующий этап развития), новаторы (ИИ, способные генерировать новые идеи) и, наконец, системы организационного уровня (ИИ, способный выполнять функции целой организации).

Источник: ХайТек+


Комментарии:

Пока комментариев нет. Станьте первым!