Трое бывших исследователей OpenAI, которых уволили из-за обвинений в неправильном обращении с данными, утверждают, что вместо этого их уволили, потому что они выразили обеспокоенность по поводу безопасности технологической компании.
«Я считаю, что нас уволили за то, что мы поставили безопасность выше непосредственных интересов OpenAI как корпорации», — написал Микита Балесный в X., внешний вместе с открытым письмом в ChatGPT-soz, написанным совместно с бывшими коллегами.
2 октября представитель AI сообщил Би-би-си, что расследование «подтвердило, что эти люди использовали конфиденциальные данные вне установленных процедур компании».
OpenAI подтвердила эти утверждения, внешний Пятничное утро в памятке руководителям исследований.
«Мы хотим дать понять, что эти решения были приняты не для того, чтобы поднять проблемы безопасности или решить их», — говорится в записке.
«Наше внутреннее расследование выявило серьезное злоупотребление доверием, выходящее за рамки того, что было описано в опубликованном ими письме, и мы полны решимости продолжать их работу».
Увольнения происходят на фоне растущих дебатов по поводу безопасности ИИ и потенциальных рисков для общества, связанных с передовыми системами ИИ.
Совместное письмо руководству OpenAI написали Балесни, Томек Корбак и Жасмин Ванг, которые говорят, что до недавнего времени все они были сотрудниками службы безопасности или обеспечения соответствия в компании.
Согласование — это практика внедрения человеческих этических идей и принципов в технологии. Другими словами, он стремится поддерживать его в соответствии с тем, что ценят люди.
Бывшие сотрудники выразили обеспокоенность тем, что их увольнения заставят сотрудников технологической компании «опасаться, что до прошлой недели они были неотъемлемой частью работы в OpenAI».
Корбак переиздал письмо, внешний: «В течение нескольких месяцев я высказывал опасения по поводу безопасности, что мы теряем способность контролировать мысли агентов ИИ, что является одним из наших лучших инструментов, чтобы поймать их на неправомерном поведении.
«Я уверен, именно поэтому меня уволили».
OpenAI заявила, что завершает заключение контрактов со сторонними экспертами по оценке безопасности и объявит подробности в ближайшие недели.
«Мы не первые, кого выгнали из OpenAI при подозрительных обстоятельствах», — сказал Ван в сообщении на X., внешний.
«Если сотрудники сейчас не выступят против такого рода маневра, я боюсь, что мы не будем последними».
