OpenAI вводит идентификацию для организаций: новый шаг к безопасному использованию ИИ

OpenAI в ближайшее время может внедрить для организаций процедуру идентификации, необходимую для получения доступа к некоторым новым моделям искусственного интеллекта.

Процесс верификации, обозначаемый как Verified Organization, представлен как «новый вариант для разработчиков, позволяющий поработать с самыми современными моделями и функциями платформы OpenAI». Для прохождения верификации необходим правительственный идентификационный номер из одной из стран, поддерживающих API OpenAI. Верификация будет требоваться каждые 90 дней.

«В OpenAI мы осознаем свою ответственность за обеспечение безопасного и широкого доступа к ИИ. К сожалению, некоторые разработчики злоупотребляют API OpenAI, нарушая наши правила. Мы внедряем процедуру верификации, чтобы минимизировать риски небезопасного использования ИИ, при этом оставаясь открытыми для более широкой аудитории разработчиков», — сообщили в компании. Ранее OpenAI выпустила отчет о попытках злонамеренного применения ChatGPT, включая действия со стороны хакеров из Северной Кореи. Они использовали чат-бота OpenAI для поиска уязвимостей в разных приложениях, создания вредоносных PowerShell-скриптов и разработки фишинговых инструментов. В феврале компания приостановила несколько аккаунтов, связанных с такими атаками.

Эти меры также могут быть направлены на предотвращение кражи интеллектуальной собственности OpenAI. Ранее компания расследовала возможное использование её датасетов китайской компанией DeepSeek через API для обучения собственных моделей. Позже генеральный директор OpenAI Сэм Альтман заявил, что не собирается подавать иск против создателей китайского чат-бота.

Стоит отметить, что OpenAI приостановила доступ к своим сервисам в Китае ещё прошлым летом.