Обзоры искусственного интеллекта Google уже сошли с рельсов

Как исследователь, имеющий опыт работы в области искусственного интеллекта и систем поиска информации, я обеспокоен недавними инцидентами, связанными с обзорами Google AI, предоставляющими неверную или вводящую в заблуждение информацию. Особую тревогу вызывает инцидент с сыром, который не прилипал к пицце, и предложение использовать нетоксичный клей.

💰

"Рынок красный? Это просто сезон скидок для умных инвесторов." - так говорят, чтобы не плакать. У нас — аналитика, которая помогает плакать реже.

Найти недооцененные активы

Несколько недель назад на мероприятии Google I/O были представлены новые обзоры искусственного интеллекта от Google, которые вызвали немало споров. Целью этих функций является предоставление исчерпывающих ответов на ваши запросы путем получения информации из Интернета. Однако недавнее обсуждение X, ранее известного как Twitter, вызывает обеспокоенность по поводу надежности получения данных из наиболее точных источников.

Что касается проблемы соскальзывания сыра с пиццы, в старом посте Reddit, который позже был подхвачен обзором Google AI, рекомендуется использовать примерно 1/8 стакана нетоксичного клея в соусе для пиццы для придания большей липкости. Однако важно отметить, что эта идея возникла из юмористического комментария 11-летнего пользователя Reddit.

— SG-r01 (@heavenrend) 22 мая 2024 г.

Как аналитик, во время анализа данных я столкнулся с некоторыми интригующими поисковыми запросами, и недавно мое внимание привлек вопрос «сыр не прилипает к пицце». Этот неожиданный запрос вызвал волну юмора в Интернете, в результате чего ответ Google AI Review стал вирусным.

Google утверждает, что ее сводки, созданные с помощью искусственного интеллекта, предоставляют точную информацию и редко содержат ошибки. Однако компания хранит молчание о потенциальных причинах каких-либо серьезных ошибок. На сегодняшний день не зарегистрировано ни одного подтвержденного случая, когда люди следовали советам Google и добавляли клей в свою пиццу. Этот анекдот доставляет удовольствие.

Стоит отметить, что значительно увеличилось количество сообщений на Reddit и форумах, появляющихся в верхней части результатов поиска Google. Примечательно, что Google и Reddit недавно подписали соглашение на сумму 60 миллионов долларов, позволяющее Google использовать контент Reddit для обучения своих моделей. Причинно-следственную связь между этими событиями установить нетрудно.

Более серьезная проблема заключается в том, что это не единичный инцидент. В другой теме Патрика Космоса на X обзор Google AI случайно заявил, что в НБА участвовала собака. Происхождение этого ответа неясно, но очевидно, что обзоры ИИ сталкиваются с проблемами на ранних стадиях.

Как аналитик, я не могу не подчеркнуть важность проявления осторожности при использовании механизмов искусственного интеллекта для получения информации. Недавно обзор искусственного интеллекта Google стал доступен общественности в Соединенных Штатах, и его распространение на другие страны неизбежно. Однако, судя по таким ответам, кажется, что больше людей могут изучать способы отключения этой функции, чем первоначально ожидал Google.

Смотрите также

2024-05-23 20:09