Apple обновит сводку уведомлений iOS после ошибки в заголовке BBC

от

В ответ на опасения по поводу неточностей в сводках уведомлений Apple объявила о планах выпустить обновление, призванное прояснить пользователям, что эти сводки генерируются ИИ и могут содержать ошибки. Это обновление появилось после того, как в новостях сообщалось о случаях, когда в сводках содержалась вводящая в заблуждение информация о глобальных событиях.

Один вводящий в заблуждение заголовок или краткое изложение среди 22 уведомлений новостного приложения BBC намекнул как минимум одному пользователю, что Луиджи Манджионе, обвиненный в убийстве генерального директора UnitedHealthcare Брайана Томпсона, покончил с собой. Уведомление, о котором идет речь, было призвано свести воедино основные моменты из различных обновлений новостей, как показано на широко распространенном скриншоте.

Apple не подробно описала изменения, которые они планируют внести для улучшения понимания пользователями, но упомянула, что эти изменения будут включать в себя модификации программного обеспечения, предназначенные для предоставления более четкой информации о том, когда уведомления создаются с использованием функции, связанной с Apple Intelligence.

Сводные уведомления, созданные специально для каждого пользователя и устройства с помощью специально обученной модели большого языка Apple, содержали крошечный символ, сигнализирующий о том, что это не типичные, незатронутые оповещения от связанных приложений.

Однако значение этого значка может быть не сразу понятно большинству пользователей.

Чтобы перестать получать сводки уведомлений Apple Intelligence, просто перейдите в приложение «Настройки» на своем мобильном устройстве.

Когда к нам обратились за заявлением, представитель Apple сказал Ars:

Как аналитик, я хотел бы поделиться мнением об Apple Intelligence — функции, призванной упростить повседневные задачи для пользователей. Он предлагает дополнительные сводки уведомлений, которые позволяют тем, кто согласился, быстро просматривать информацию о приложении и погружаться глубже, когда это необходимо. Эти сводки легко узнать по значку сводки, а полное содержание можно найти одним касанием. Apple Intelligence все еще находится на стадии бета-тестирования, а это означает, что мы постоянно совершенствуем его на основе отзывов пользователей. Предстоящее обновление программного обеспечения позволит лучше понять, когда вы видите текст, созданный Apple Intelligence. Мы приглашаем пользователей сообщать о любых неожиданных сводках уведомлений, с которыми они сталкиваются.

Эту проблему невозможно решить полностью

Я заметил, что некоторые репортажи BBC о дефектах искусственного интеллекта, похоже, неправильно понимают, как работают сводки уведомлений Apple Intelligence. Они часто описывают эти сводки как созданные «из приложения Apple» (что на самом деле является общесистемной функцией), и подразумевают, что все пользователи получили одно и то же вводящее в заблуждение уведомление о Mangione. На самом деле формулировка этих сводок может варьироваться от устройства к устройству в зависимости от других уведомлений, полученных пользователем примерно в то же время.

Несмотря на то, что неизбежны случаи, когда сводки новостей вводят в заблуждение, это серьезная проблема. У Apple нет простого решения, такого как обновление программного обеспечения, для устранения этих проблем. Вместо этого они сосредотачиваются на информировании пользователей об ограничениях технологии, помогая им принимать более разумные решения. Альтернативно, они могут отключить или вообще удалить эту функцию. Похоже, что Apple пока выбирает образовательный подход.

Проще говоря, эти языки языковых моделей (LLM), например те, которые используются в сводных уведомлениях Apple, на самом деле не понимают значения информации, которую они конденсируют. Вместо этого они предсказывают части слов на основе предыдущих текстовых шаблонов.

Кроме того, важно отметить, что эти прогнозы не всегда точны и иногда дают неточные результаты несколько раз из каждых сотен или тысяч результатов. Поскольку эти модели продолжают развиваться и проводиться оптимизация, частота ошибок может снизиться, но полная точность остается недостижимой, учитывая большой объем сводок, генерируемых ежедневно.

Широкое использование этой технологии без того, чтобы многие пользователи (в том числе, очевидно, BBC) полностью поняли ее внутреннюю работу, может быть, по крайней мере, потенциально опасным. Это справедливо независимо от того, обсуждаем ли мы сводные заголовки новостей в уведомлениях iPhone или сводки, созданные искусственным интеллектом Google на страницах результатов поисковых систем. Даже если большинство сводок абсолютно точны, всегда будут случаи, когда пользователи столкнутся с неверной информацией.

Несмотря на то, что наши модели становятся все более точными, избежать ошибок становится все труднее из-за огромного числа читателей, которых охватывают эти сводки. Другими словами, огромный размер аудитории означает, что проблемы с ошибками, скорее всего, сохранятся.

Ранее мы обсуждали, как быстрое внедрение Apple Intelligence расходится с типичным акцентом Apple на качестве и удовлетворенности пользователей. Тем не менее, учитывая текущие технологические ограничения, для Apple кажется невозможным достичь 100% точности с помощью этих сводных уведомлений, независимо от того, насколько сильно они совершенствуют эту функцию.

Давайте выясним, сможет ли Apple эффективно сообщить своим пользователям о том, что сводки не всегда могут быть точными. Apple будет довольно сложно заставить каждого пользователя iPhone полностью понять механику и обоснование этой конкретной функции, поскольку это требует значительного уровня понимания.

Смотрите также

2025-01-07 04:54