По четвергам Андрей Карпати, известный исследователь искусственного интеллекта, ранее работавший в OpenAI и Tesla, сделал игривое предложение в твиттере. Он предположил, что продвинутые языковые модели, такие как та, что лежит в основе ChatGPT, в конечном итоге могут быть адаптированы для использования или передачи в космос. Эта идея потенциально может облегчить общение с внеземными формами жизни. Хотя он назвал это простым развлечением, учитывая его значительное влияние в этой области, эта идея может вызвать дополнительный интерес среди исследователей в будущем.
Я ярый поклонник достижений Андрея Карпати в области искусственного интеллекта. Получив докторскую степень в Стэнфордском университете под руководством доктора Фей-Фей Ли к 2015 году, он быстро добился успеха, присоединившись в том же году к OpenAI в качестве одного из ее ученых-основателей. После этого я был рад видеть, что он возьмет на себя роль старшего директора по искусственному интеллекту в Tesla с 2017 по 2022 год. Его возвращение в OpenAI на год, начинающийся в 2023 году, стало для меня захватывающим событием.
В последнее время Карпаты занимаются проектом «llm.c». Эта инициатива направлена на обучение языковой модели OpenAI GPT-2 2019 года с использованием чистого C, что значительно увеличивает скорость процесса и доказывает, что LLM можно управлять без сложных сред разработки. Простой подход проекта и лаконичная кодовая база разожгли творческий потенциал Карпати.
Карпати объяснил Арсу, что его библиотека llm.c полностью написана на C, широко используемом системном языке низкого уровня, который предоставляет разработчикам прямой контроль над своими программами. Напротив, большинство библиотек глубокого обучения для обучения моделей состоят из сложных и обширных баз кода. Таким образом, достоинство llm.c заключается в его простоте и компактности, что позволяет сертифицировать его как безопасный для миссий по исследованию космоса.
Наш посол ИИ
В моем исследовании творческого мысленного эксперимента, предложенного Карпати под названием «Очевидно, что однажды магистратуры магистратуры должны работать в космосе», я хотел бы предложить двухэтапный подход. Первый этап включает в себя изменение кодовой базы больших языковых моделей (LLM) для обеспечения строгих стандартов безопасности, аналогичных «Сила 10 правил» НАСА, которые регулируют разработку программного обеспечения для космических полетов.
В первой части своего X-поста он подчеркнул важность соблюдения стандартов кода и руководств по стилю НАСА для обеспечения безопасности кода llm.c: «Мы приложили огромные усилия, чтобы пройти строгие проверки кода НАСА, подтвердив, что код является чрезвычайно безопасен, даже пригоден для космических операций», — заявил он. Кроме того, он выразил уверенность в внутренней безопасности процесса обучения/вывода LLM, поскольку он включает в себя только фиксированный массив чисел с плавающей запятой и заранее определенный цикл динамики над ним: «Безопасность обучения/вывода LLM в принципе должна быть неоспоримой — это просто имеет дело с одним ограниченным набором данных и процессов без каких-либо требований к выделению или освобождению памяти неопределенным образом, рекурсии или другим сложным операциям».
Как исследователь, изучающий разработку программного обеспечения для космических приложений, я не могу не подчеркнуть важность этого аспекта. Программное обеспечение, которое мы отправляем в космос, должно соответствовать строгим правилам безопасности и надежности. По моему мнению, написанный мною код под названием llm.c хорошо подходит для таких сред благодаря присущей ему простоте и предсказуемости.
На втором этапе, после того как модель большого языка (LLM) будет соответствовать требуемым стандартам космической безопасности, она гипотетически сможет функционировать в качестве нашего репрезентативного ИИ в космическом пространстве. Эта концепция проводит параллели с историческими начинаниями, такими как послание Аресибо и «Золотая пластинка Вояджера». План предполагает сжатие «знаний» LLM в двоичный файл, который затем можно будет активировать и взаимодействовать с любой поддающейся расшифровке внеземной технологией.
С моей точки зрения, я рассматриваю это как захватывающую идею из области научной фантастики. Идея о том, что искусственный интеллект может отправиться к звездам вместо людей, интригует. Точно так же стоит задуматься над возможностью того, что другие виды могли послать своих представителей раньше нас.
Как аналитик, я бы перефразировал это так: не я изначально предлагал отправлять большие языковые модели (LLM) в космос. Однако в двенадцатом месяце 2022 года, вскоре после запуска ChatGPT, профессор Джош Бонгард из Университета Вермонта опубликовал в Твиттере интригующую концепцию научно-фантастического романа: «Мы отправляем ChatGPT в космос, снабжая его инструкциями по как инопланетные существа могут допрашивать его, чтобы получить знания о человеческой цивилизации».
LLM функционируют как краткое и сложное интерактивное хранилище человеческих знаний, способное ответить на большинство вопросов, которые могут возникнуть у инопланетных цивилизаций относительно нашей цивилизации. Хотя он может предоставлять точную информацию, у него есть возможность генерировать данные там, где отсутствуют факты – аспект, о котором инопланетные существа, вероятно, не подозревают.
Как технический энтузиаст, я был очарован видением разработчика программного обеспечения Ли Мэлона, которым он поделился в своем блоге в октябре 2023 года. Он предполагал отправить модель большого языка (LLM) в глубокий космос как средство связи с другой цивилизацией. Он считал, что этот обмен позволит им взглянуть на нашу культуру, продемонстрировав нашу доброту, художественное самовыражение и технологические достижения. Они могли бы слушать нашу поэзию, читать наши истории и, возможно, даже находить юмор в наших мемах или пиксельной графике, раскрывающих самые яркие стороны человеческой натуры.
Как технический энтузиаст, я могу представить внеземную цивилизацию, пытающуюся запустить большую языковую модель (LLM) в космосе. Чтобы добиться этого, им необходимо обладать продвинутыми вычислительными способностями и глубоким пониманием конкретного формата, используемого для кодирования весов модели. Им также потребуется совместимая аппаратная архитектура, способная обрабатывать сложные матричные операции, необходимые для выполнения LLM. Кроме того, им понадобится сложная программная платформа, которая сможет интерпретировать двоичный файл и инициализировать модель.
«По мнению Карпати, — заметил он небрежно, — фундаментальную задачу можно упростить, поскольку для универсальности достаточно компактного набора команд, такого как одиночный логический элемент И-НЕ. Однако существует более существенная проблема: системы будут получать текстовые вывод на таких языках, как английский, что требует расширенного взаимодействия с языковой моделью для расшифровки значения».
Перед лицом этих препятствий, если инопланетной цивилизации удастся понять и эффективно реализовать Модель Большого Языка (LLM), это проложит путь к новым средствам межзвездного диалога и обмена информацией, при условии, что модель будет основана на разнообразном совокупность человеческих знаний. Однако, учитывая общепризнанную предвзятость в данных по обучению ИИ, мы можем предвидеть возникновение споров о том, какая сторона будет контролировать содержание гипотетического LLM, который мы предлагаем отправить в космос.
Но хорошая ли это идея?
Как энтузиаст технологий, меня всегда восхищала возможность отправки больших языковых моделей (LLM) в космос в качестве средства трансляции или запуска их в космос. Однако эта интригующая концепция также поднимает важные вопросы безопасности и этики, которые требуют тщательного обдумывания.
Среди критиков широко распространено мнение, что объявление о нашем существовании и передовых технологиях потенциальным инопланетным цивилизациям посредством преднамеренных сигналов может привлечь внимание враждебных существ. Это может представлять опасность для Земли и нашего вида.
«Конечно, в Карпати на ум приходят важные вопросы безопасности. В качестве примера он привел «Задачу трех тел», взяв за основу знаменитый роман Лю Цысиня 2008 года, в котором разумная инопланетная цивилизация расшифровывает послание с Земли и впоследствии устанавливает вторжение».
Дополнительный риск, помимо угрозы враждебного поглощения, заключается в том, что неверное истолкование людей может стать результатом воздействия LLM на широкий спектр человеческой культуры, если он будет обучен этому.
В своем сообщении в блоге Ли Мэллон отметил, что, когда люди вместе копаются в нашем цифровом архиве, они могут столкнуться с нашими менее пикантными аспектами. Они обнаружат нашу склонность к конфликтам, нашу алчность и разрушительное оружие, которое мы создали. Это откровение может создать тревожную картину, заставив усомниться в том, полезно ли или пагубно сотрудничество с нами, или следует ли принять меры, чтобы полностью исключить нас из ситуации.
Даже если бы мы преподавали исключительно LLM (большую языковую модель) с положительными человеческими качествами, она все равно может оказаться неэффективным межзвездным дипломатом из-за сложных технических проблем и сложности начальных встреч.
«Мысль о том, что LLM служат нашими посредниками с другими видами, вызывает у меня большие опасения, — выразил старший редактор по космосу Эрик Бергер из Ars Technica. — Я не могу себе представить, чтобы все прошло хорошо. Взаимодействие с LLM в течение длительного периода времени было бы невозможным. чувствовать себя как галлюциногенный опыт или напоминать о том, как Кевина Роуза попросили расторгнуть брак. Взаимодействие с новым видом, несомненно, является сложным и замысловатым занятием, требующим исключительной утонченности».
В гипотетическом сценарии, в котором модели большого языка (LLM) берут на себя роль межзвездных представителей человечества, Карпати игриво подчеркивает важность отправки безупречного и впечатляющего кода как представления нас самих в космос. Он с юмором размышлял: «Возможно, однажды мы встретим LLM от инопланетных существ вместо того, чтобы они приходили прямо к нам. Может быть, LLM найдут друг друга. Мы должны убедиться, что код является первоклассным, иначе это будет настоящий конфуз». .»
Смотрите также
- На фотографии iPhone 16 Pro Max видны удивительно тонкие рамки
- Концовка «Субстанции» объясняет: что происходит со Сью и Элизабет?
- Эта функция Apple Watch сводила меня с ума. Вот как я это исправил
- Если вы скучаете по старым Windows Phone от Nokia, вам понравится HMD Skyline.
- Приложение Google Gemini AI получает более широкую версию. Ваш телефон есть в списке?
- Xiaomi Mix Fold 4 против Xiaomi Mix Flip: в чем разница?
- Что лучше: Dell Latitude или Inspiron?
- Программное обеспечение и прошивка Framework были в беспорядке, но над ними работают
- 7 захватывающих южноафриканских фильмов ужасов
- Холли Берри сталкивается со злым духом в захватывающем трейлере триллера ужасов Never Let Go
2024-05-03 23:26