Как исследователь, потративший бесчисленные часы на изучение тонкостей разработки ИИ и ее потенциальных последствий для нашего общества, я глубоко обеспокоен продолжающимися дебатами вокруг OpenAI и предложенного Калифорнии законопроекта SB-1047. Мой личный опыт работы с системами искусственного интеллекта вселил во меня глубокое чувство ответственности за обеспечение их безопасного и этичного развертывания.
Купил акции по совету друга? А друг уже продал. Здесь мы учимся думать своей головой и читать отчётность, а не слушать советы.
Прочитать отчет 10-KБывшие сотрудники OpenAI Уильям Сондерс и Дэниел Кокотайло написали письмо губернатору Калифорнии Гэвину Ньюсому, в котором выразили свое разочарование, хотя и не удивленное, позицией OpenAI против предложенного закона штата, который обеспечивает строгие меры безопасности при разработке будущего ИИ.
«Сондерс и Кокотайло решили работать с OpenAI из-за желания поддерживать безопасность передовых технологий искусственного интеллекта, создаваемых компанией. Однако впоследствии они покинули OpenAI, так как больше не верили, что она будет безопасно, правдиво и этично развивать свои технологии. Системы искусственного интеллекта».
Они утверждают, что дальнейшее развитие без адекватных гарантий потенциально может привести к катастрофическим последствиям для населения в целом. Этот риск включает в себя такие сценарии, как массовые киберугрозы или содействие производству смертоносных биологических агентов.
Будучи энтузиастом технологий, я не мог не заметить иронию в позиции Сэма Альтмана по регулированию ИИ. Недавно он выступал за контроль над ним в Конгрессе, однако, когда дело доходит до реальных правил, он, похоже, делает шаг назад. Это захватывающий парадокс, который трудно игнорировать.
По данным опроса 2023 года, проведенного совместно корпорацией MITRE и Harris Poll, примерно 61% участников выразили сомнения в безопасности и защищенности нынешних технологий искусственного интеллекта.
Предлагаемый закон, SB-1047 или Закон о безопасных и надежных инновациях для пограничных искусственных моделей, требует, чтобы разработчики соблюдали определенные условия, прежде чем начинать обучение определенным моделям. Ключевые требования включают создание механизма быстрого отключения и разработку отдельного письменного протокола безопасности. Учитывая историю утечек данных и кибератак OpenAI за последние несколько лет, такие меры имеют решающее значение.
Как исследователь, освещающий эту тему, я хотел бы уточнить, что, насколько я понимаю, OpenAI не согласен с изображением своей позиции по SB 1047 некоторыми исследователями. По словам представителя, Business Insider сообщили, что OpenAI выступает за единый федеральный подход к политике в области ИИ, а не за свод законов штата. Эта точка зрения была выражена в письме, написанном директором по стратегии OpenAI Джейсоном Квоном сенатору штата Калифорния Скотту Винеру еще в феврале. Обоснование заключается в том, что такой подход будет способствовать инновациям и сделает США лидером в формировании глобальных стандартов ИИ.
Сондерс и Кокотайло утверждают, что призыв OpenAI к федеральному регулированию может быть не искренним. Они заявляют: «Мы не можем позволить себе ждать, пока Конгресс примет меры, потому что они открыто заявили о своем нежелании принимать существенные правила ИИ. Если они когда-либо это сделают, это потенциально может отменить законодательство Калифорнии».
Смотрите также
- Безопасно ли использовать менеджер паролей Bitwarden?
- Шокирующее исследование заставило меня пересмотреть, как я использую ИИ, и вам, вероятно, тоже стоит это сделать.
- Новый сериал от Netflix о Охотниках за привидениями устанавливает официальное окно релиза с возвращением оригинальной звезды.
- Хит-сериал Тома Харди из 8 частей, посвященный криминальному триллеру, незаметно возвращается как глобальный успех стриминга.
- Google представляет безэкранный Fitbit Air и приложение Google Health, призванное заменить Fitbit.
- Netflix’s The Chestnut Man Официально возвращается как ближайшая тёмная замена на данный момент.
- 4-серийный забытый научно-фантастический сериал — это идеальное шоу о киберпанк-путешествиях во времени.
- Судьба 2-го сезона R.J. Decker официально определена каналом ABC.
- Google отвечает на скрытную установку Gemini Nano в Chrome, не затрагивая вопрос согласия.
- 9-частный спин-офф Yellowstone Тейлора Шеридана подтверждает неожиданную замену Кевину Костнеру.
2024-08-27 22:57