OpenAI разрабатывает механизмы автоматической остановки ИИ-систем при выявлении опасного поведения. Об этом сообщает Reuters со ссылкой на письмо компании членам Конгресса США. Речь идет о специализированных инструментах, призванных остановить работу ИИ при серьезных инцидентах.
OpenAI также намерена усилить мониторинг действий моделей и дополнительно ограничить им доступ к интернету во время тестирования. Факт разработки такого механизма […] Сообщение OpenAI создает автоматический «рубильник» для ИИ после взлома Hugging Face появились сначала на INCRYPTED .