Генеральный директор Microsoft Сатья Наделла — последний технический руководитель, который высказал многословные мысли по улучшению безопасности искусственного интеллекта.
В сообщении в субботу утром в X Наделла написал, что пришло время «сесть и оценить архитектуру доверия» ИИ.
«Мы не можем рассматривать Суперинтеллект как набор вложенных друг в друга черных ящиков и просто принимать или отвергать его рекомендации, ответы и действия», — написал Наделла, используя предпочтительный термин администрации Трампа для обозначения ИИ.
Как отметил Наделла, такой подход «означает отделение модели от инструмента, регулирующего ее работу», а также «снятие контроля и защиты». Он также призвал к тому, чтобы «каждая значимая операция моделирования» документировалась с помощью «удобочитаемых доказательств» и к созданию систем, в которых «уполномоченное лицо» всегда имеет возможность «приостановить или прекратить задачу моделирования».
«Мы должны предположить, что модель повреждена, и сдержать ее с самого начала», — сказал он. «Думайте об этом как об аварийном торможении».
Комментарии Наделлы прозвучали на фоне того, что ведущие компании, занимающиеся искусственным интеллектом, признают все больше и больше случаев потери контроля над своими моделями, а также после того, как генеральный директор Anthropic Дарио Амодей опубликовал план осторожного развития искусственного интеллекта.
