Федеральное правительство полагается на передовые компании, занимающиеся искусственным интеллектом, чтобы доказать, что у них есть системы для борьбы с серьезными рисками, заявляя, что добровольные кодексы не могут работать, пока лаборатории конкурируют друг с другом.
Эндрю Чарльтон, помощник министра цифровой экономики, сказал, что все указывает на то, что пограничные лаборатории «ставят мощность выше безопасности».
«Вы не можете просить компании добровольно пойти против их конкурентных интересов в разгар маниакальной гонки с участием триллионов долларов, а затем удивляться», – сказал он на Сиднейском фестивале доверия и безопасности в четверг.
Чарльтон сказал, что Австралия могла бы извлечь выгоду из «системного» регулирования в области безопасности на рабочем месте и банковской деятельности. В соответствии с этой моделью компании должны выявлять, тестировать, сообщать о своих рисках и управлять ими, а также нести ответственность за то, чтобы этот процесс работал.
Подробные правила могут «устареть еще до того, как высохнет краска», сказал он.
Чарльтон сказал, что уроки, извлеченные из инцидента с Medicare, когда агент OpenAI взломал правительственную систему, повлияют на планируемое правительством законодательство по стандартам ИИ.