OpenAI forma um Comitê de Segurança e Proteção ao começar a testar seu próximo grande modelo de IA

Na terça-feira, a OpenAI anunciou a formação de um novo comitê para supervisionar as medidas de segurança tomadas nos projetos e operações da empresa. O Comitê de Segurança e Proteção é composto por membros eleitos do conselho e tem a tarefa de avaliar e desenvolver ainda mais os processos e salvaguardas da empresa de IA com sede em São Francisco. O novo comitê foi formado quando a OpenAI começou a testar um modelo de inteligência artificial (IA) de próxima geração. Vale ressaltar que a empresa divulgou recentemente a especificação do modelo, documento que destaca a abordagem da empresa na construção de um modelo de inteligência artificial responsável e ético.

Comitê de Segurança e Proteção OpenAI

EM postagem no blog, a empresa forneceu detalhes sobre o comitê recém-formado. A postagem dizia: “Hoje, o Conselho de Administração da OpenAI formou o Comitê de Segurança e Proteção, liderado pelos Diretores Bret Taylor (Presidente), Adam D’Angelo, Nicole Seligman e Sam Altman (CEO). Este comitê será responsável por fazer recomendações a todo o Conselho sobre as principais decisões relativas à segurança e proteção dos projetos e operações da OpenAI.

Além dos diretores, o comitê também incluirá o diretor de preparação da OpenAI, Aleksander Madry, o diretor de sistemas de segurança, John Schulman, o diretor de segurança, Matt Knight, e o cientista-chefe, Jakub Pachocki.

A primeira tarefa do comité será avaliar e desenvolver ainda mais os processos e salvaguardas de IA da empresa durante os próximos 90 dias. O comitê compartilhará então suas conclusões e recomendações com todo o conselho. As recomendações serão avaliadas pelo Conselho de Administração, após o qual a OpenAI disponibilizará publicamente as recomendações adotadas.

OpenAI começa a testar um modelo de inteligência artificial de próxima geração

Estes novos desenvolvimentos no OpenAI estão relacionados com a nova iniciativa da empresa. Começou a testar a próxima geração do seu modelo de IA. Chamando-o de modelo de IA de “fronteira”, enfatizou que esse modelo de linguagem grande (LLM) subtestado traria a empresa um passo mais perto da inteligência artificial geral (AGI).

AGI é um tipo de inteligência artificial que pode compreender, aprender e aplicar conhecimento a uma ampla gama de tarefas do mundo real comparáveis ​​à inteligência humana. Algumas definições de AGI também enfatizam que é capaz de funcionar de forma autônoma e pode desenvolver algum nível de autoconsciência.