Мы только что узнали кое-что удивительное о том, как обучали Apple Intelligence

Как человек, внимательно следивший за технологической индустрией в течение многих лет, я нахожу решение Apple использовать TPU Google вместо графических процессоров Nvidia для обучения своих моделей искусственного интеллекта весьма интригующим. Я всегда считал Apple и Nvidia двумя гигантами в своих областях, у которых мало места для пересечения. Но похоже, что облачные требования TPU Google в данном случае пошли Apple на пользу.


Недавно я наткнулся на увлекательную исследовательскую публикацию Apple. В этом исследовании они сообщили, что во время разработки своего будущего сервиса Apple Intelligence компания Apple решила использовать тензорные процессоры Google (TPU) вместо более часто используемых графических процессоров Nvidia. Согласно документу, Apple использовала 2048 чипов TPUv5p для обучения моделей и 8192 процессора TPUv4 для серверных моделей искусственного интеллекта.

Чипы Nvidia пользуются большим спросом благодаря своей исключительной производительности и эффективности вычислений, которые заслужили прочную репутацию. Компания продает свои продукты и системы индивидуально, позволяя клиентам создавать их и управлять ими в соответствии со своими предпочтениями.

Альтернативно можно сказать, что TPU Google — это не то, чем вы можете владеть лично, а скорее получить доступ как часть более широких облачных сервисов Google. По сути, пользователи не имеют права напрямую владеть Google TPU; вместо этого они арендуют права использования на платформе Google Cloud для создания своих моделей искусственного интеллекта.

По мнению исследовательской группы, потребность в облачных технологиях принесла Apple значительную пользу. Они отметили, что TPU Google позволили им кластеризовать вычислительную мощность, что позволило эффективно обучать модели искусственного интеллекта Apple с использованием этой установки, а не полагаться на одну систему.

Решение Apple использовать предложения Google удивительно по причинам, выходящим за рамки их исторической конкуренции. Примечательно, что Nvidia удерживает значительное лидерство на рынке чипов искусственного интеллекта, на долю которой приходится 70–95% общего объема продаж своих ускорителей.

Решение Apple отказаться от дорогих чипов высшего уровня от Nvidia можно интерпретировать как тенденцию среди технологических компаний. Например, Amazon объявила о разработке новой серии чипов искусственного интеллекта, которые, как сообщается, на 50% мощнее, чем у Nvidia, и потребляют на 50% меньше энергии.

Как аналитик, я недавно наблюдал изменение стратегии Microsoft и Google. В мае Microsoft объявила о своем намерении предоставлять облачные услуги с использованием процессоров искусственного интеллекта (ИИ) AMD вместо того, чтобы полагаться на чипы Nvidia. Аналогичным образом, Google предпринял аналогичный шаг в апреле. Это предполагает растущую тенденцию к диверсификации партнерских отношений в сфере аппаратного обеспечения для облачных предложений, ориентированных на искусственный интеллект.

Смотрите также

2024-07-30 21:27