Создатель ChatGPT наймет работника, который будет отслеживать угрозы от ИИ
29 декабря. ПРАВМИР. Корпорация OpenAI ищет директора по управлению рисками ИИ. Его задача — заранее отслеживать, какие новые возможности появляются у самых мощных моделей, и выстраивать защиту, чтобы снизить риск серьезного вреда.
Сэм Альтман написал в соцсети X, что развитие ИИ идет очень быстро и создает «реальные вызовы».
Среди рисков он отдельно назвал влияние на психическое здоровье и угрозу появления кибероружия на базе ИИ.
По описанию вакансии новый руководитель будет организовывать проверки возможностей моделей и внедрять меры защиты так, чтобы этот процесс работал как единая и масштабируемая система.
Альтман также ожидает, что команда будет задавать ограничения для систем, которые способны улучшать себя. По его словам, работа будет «стрессовой».
OpenAI — американская исследовательская организация, которая занимается разработками в области искусственного интеллекта.
OpenAI создала несколько больших языковых моделей, включая GPT-4 и ChatGPT, а также модель генерации изображений DALL-E.
OpenAI основали в декабре 2015; сопредседателями стали Сэм Альтман и Илон Маск.