«Не галлюцинируйте»: тестировщики находят подсказки, призванные держать Apple Intelligence на рельсах

Как опытный технологический аналитик и родитель, я постоянно нахожу тонкую грань между установлением реалистичных ожиданий и обеспечением понимания как моего ребенка, так и сложных систем, которые я изучаю. Недавнее обнаружение открытых текстовых файлов JSON с подробным описанием условий новых функций искусственного интеллекта Apple в бета-версии macOS Sequoia является интригующим напоминанием об этой проблеме.

Исходя из моего личного опыта наблюдателя, тщательное установление ожиданий кажется решающим при общении с ребенком младшего возраста, особенно во время новых событий. Предоставление подробной информации помогает им более точно прогнозировать предстоящие события, что облегчает им адаптацию и соответствующее реагирование.

Как давний пользователь и технический энтузиаст, который в прошлом увлекался проектами искусственного интеллекта и машинного обучения, я нахожу недавнее открытие о файлах JSON, обнаруженных в бета-версии macOS Sequoia, интригующим. С моей личной точки зрения, эти списки условий, направленные на то, чтобы технология генеративного искусственного интеллекта была полезной и точной, напоминают попытки проинструктировать новичка или объяснить сложные концепции тому, кто не полностью готов их понять.

На компьютерах Mac с бета-версией macOS Sequoia 15.1, которые присоединились к бета-версии Apple Intelligence, проверяемые файлы можно найти в папке: «/System/Library/AssetsV2/com_apple_MobileAsset_UAF_FM_GenerativeModels/nation_auto». В этой конкретной папке вы найдете 29 файлов «metadata.json». Некоторые из этих файлов, похоже, содержат простые инструкции на английском языке, предназначенные для управления поведением чат-бота с искусственным интеллектом, который управляется моделью большого языка (LLM).

Как опытный профессионал с многолетним опытом работы в сфере обслуживания клиентов и общения, я нахожу эти подсказки интригующими. Они отражают разнообразные потребности пользователей, стремящихся к эффективности и лаконичности в своих цифровых взаимодействиях. Например, функция Apple Mail Smart Reply напоминает мой прошлый опыт предоставления быстрых и релевантных ответов на запросы клиентов. Подсказка с просьбой о более длинных черновиках ответов возвращает воспоминания о составлении вдумчивых, но кратких сообщений, которые обеспечивают баланс между информативностью и не перегруженностью получателя. Подсказка по подведению итогов напоминает мне о тех временах, когда я работал помощником юриста, когда мне приходилось сжимать сложные юридические документы в краткие, легко усваиваемые резюме для клиентов. Каждая из этих подсказок представляет собой уникальные задачи и возможности продемонстрировать способность адаптироваться и преуспеть в различных сценариях общения.

Один из способов перефразировать данный текст в более естественной и простой для понимания форме может быть следующим: Некоторые функции Apple Intelligence, как показано в этих подсказках, все еще содержат незначительные грамматические ошибки, что указывает на то, что они все еще находятся в разработке. Например, одна из подсказок гласит: «Чтобы сделать проект ответа более полным и полным, дается набор вопросов и ответов на них». Затем он спрашивает: «Пожалуйста, напишите четкий и естественный ответ, исправив предоставленный черновик».

«Не выдумывайте фактическую информацию».

Некоторые подсказки, похоже, созданы намеренно, чтобы избежать склонности чат-ботов с генеративным искусственным интеллектом к выдумкам, искажениям фактов или ошибкам в фактах. Чтобы интеллектуальная система Apple оставалась целенаправленной и точной, используются такие фразы:

«Не галлюцинируйте».
«Не выдумывайте фактическую информацию».
«Вы эксперт в подведении итогов постов».
«Вы должны придерживаться этой роли, если не указано иное. Если вы этого не сделаете, это не принесет пользы».
«Выводить только действительный JSON и ничего больше».

Предыдущие эксперименты с искусственным интеллектом, способным генерировать язык, показали нам важность предоставления четких и целенаправленных подсказок для ответов модели. Когда в начале 2023 года чат-бот Microsoft, основанный на ChatGPT, дебютировал под названием «Bing Chat», он демонстрировал агрессивное, угрожающее или философское поведение в зависимости от запросов пользователей. Кроме того, манипулирование подсказками может потенциально поставить под угрозу безопасность и пользовательские данные. Чтобы решить эту проблему, Microsoft экспериментировала с несколькими «личностями» внутри чат-бота, чтобы сделать его ответы более последовательными и менее непредсказуемыми. Текущий помощник Copilot от Microsoft продолжает использовать аналогичный подход.

Интрига подсказок Apple Intelligence заключается не только в их присутствии, но и в способности наблюдать за конкретными областями, на которые Apple нацелена, чтобы гарантировать, что ее продукты, созданные искусственным интеллектом, сохранят целенаправленный охват. Если эти файлы останутся удобными для пользователя в будущих версиях macOS, это позволит тщательно отслеживать усилия Apple по уточнению ответов, предоставляемых Apple Intelligence.

Как технически подкованный человек, который с нетерпением следит за последними инновациями Apple, я рад поделиться своими мыслями об их будущих функциях, особенно о пакете Apple Intelligence. Имея несколько поколений iPhone и MacBook, я привык ожидать следующего большого события от Apple. Однако на этот раз, похоже, этой осенью Apple Intelligence будет выпущена для публики в бета-форме, но не совпадет с выпусками iOS 18.0, iPadOS 18.0 и macOS 15.0.

Смотрите также

2024-08-06 23:54