A CTO da OpenAI

“A tecnologia nos molda e nós a moldamos”

Em 2018, Mira Murati ingressou na OpenAI como VP de Applied AI and Partnerships. A essa altura, a OpenAI já estava intensificando o trabalho de pesquisa e elaborando contas maiores do que poderiam suportar. Em 2019, a OpenAI mudou de uma organização sem fins lucrativos para uma entidade com fins lucrativos, embora com um limite. Murati então subiu a escada para se tornar vice-presidente sênior de produtos e parcerias na empresa antes de se tornar diretor de tecnologia há dez meses. Desde a nomeação de Murati como CTO, a OpenAI lançou alguns de seus brinquedos de IA mais badalados, como DALL.E 2 e ChatGPT, que chegaram ao público. Para conversar sobre o universo de IA, chamamos Murati para o nosso Ghost Interview de hoje! 

Na sua visão, de forma prática, qual o maior risco do ChatGPT?

O ChatGPT é essencialmente um grande modelo de conversação – uma grande rede neural que foi treinada para prever a próxima palavra – e os desafios com ele são semelhantes aos que vemos com os grandes modelos básicos de linguagem: pode inventar fatos.

(Time – 2023) 

E como vocês lidam com esse desafio?

Este é realmente um desafio central. Escolhemos o diálogo especificamente porque o diálogo é uma maneira de interagir com um modelo e fornecer feedback a ele. Se acharmos que a resposta do modelo está incorreta, podemos dizer: “Tem certeza? Eu acho que, na verdade … ” E então o modelo tem a oportunidade de ir e voltar com você, semelhante a como conversaríamos com outro humano.

(Time – 2023) 

Como a IA pode impactar o futuro do trabalho? Qual a sua visão sobre? 

Acho que haverá empregos que serão perdidos. Acho que provavelmente muitos trabalhos repetitivos, tarefas cognitivas repetitivas, serão substituídos por sistemas de IA.

Sabemos que precisamos orientar os sistemas e precisamos ensiná-los a fazer as coisas que queremos que façam. Portanto, suspeito que haverá trabalhos vinculados ao ensino de sistemas de IA para serem mais úteis e confiáveis ​​para nós. Eu vejo os sistemas como realmente ampliando nossa própria criatividade ao colaborar conosco, colaborando naquele processo inicial. . . que requer muito trabalho repetitivo. E então os humanos podem se concentrar mais nas tarefas de nível superior. 

(Fast Company – 2023) 

Tecnologias verdadeiramente inovadoras resolvem um problema. Qual problema o ChatGPT está resolvendo?

No momento, está no estágio de revisão da pesquisa, então não quero falar com muita confiança sobre os problemas que está resolvendo. Mas acho que podemos ver que ele tem o potencial de realmente revolucionar a forma como aprendemos. As pessoas estão em salas de aula de, digamos, 30 pessoas. Todos têm formações, formas de aprender diferentes e todos recebem basicamente o mesmo currículo. Com ferramentas como o ChatGPT, você pode conversar sem parar com um modelo para entender um conceito de uma forma que atenda ao seu nível de compreensão. Tem imenso potencial para nos ajudar com educação personalizada.

(Time – 2023) 

Como a IA generativa pode apoiar o criativo humano?

Trazemos os modelos da OpenAI ao público para que possamos descobrir desde o início – antes que se tornem extremamente poderosos – como nos adaptar a eles. São tecnologias gerais, e com o bem vem o mal. Haverá uma tonelada de maneiras pelas quais eles serão mal utilizados. E há uma tonelada de limitações. Portanto, certamente há um elemento da sociedade se adaptando às tecnologias. 

(Fast Company – 2023) 

Mas algumas escolas estão banindo o ChatGPT. Isso te surpreende?

Quando estamos desenvolvendo essas tecnologias, estamos realmente buscando inteligência geral, recursos gerais com alta confiabilidade — e fazendo isso com segurança. Mas quando você abre para o maior número possível de pessoas com diferentes formações e conhecimentos de domínio, você definitivamente ficará surpreso com os tipos de coisas que eles fazem com a tecnologia, tanto na frente positiva quanto na frente negativa.

(Time – 2023) 

Você acha que essas questões devem ser deixadas para empresas como a sua ou os governos devem se envolver na criação de regulamentações?

É importante para a OpenAI e empresas como a nossa trazer isso à consciência pública de uma forma controlada e responsável. Mas somos um pequeno grupo de pessoas e precisamos de muito mais informações neste sistema e muito mais informações que vão além das tecnologias – definitivamente reguladores e governos e todos os outros.

(Internacional Finance – 2023) 

Há sempre o medo de que o envolvimento do governo possa retardar a inovação. Você não acha que é muito cedo para os formuladores de políticas e reguladores se envolverem?

Não é muito cedo. É muito importante que todos comecem a se envolver, dado o impacto que essas tecnologias vão ter.

(Time – 2023) 

Portanto, é um trabalho em conjunto entre reguladore e empresas?

Não acho que podemos ou devemos contar apenas com o setor privado. Há uma combinação de elementos que entram em jogo e uma estreita colaboração entre empresas privadas, governos e reguladores, bem como a sociedade civil. Esta é uma tecnologia muito geral e, no final das contas, vai transformar todas as nossas vidas. 

(Fast Company – 2023) 

Um número crescente de líderes no campo está alertando sobre os perigos da IA. Você tem alguma dúvida sobre a tecnologia?

Este é um momento único no tempo em que temos agência em como isso molda a sociedade. E isso vale para os dois lados: a tecnologia nos molda e nós a moldamos. Há muitos problemas difíceis de resolver. Como você consegue que o modelo faça o que você quer que ele faça e como você garante que ele esteja alinhado com a intenção humana e, em última análise, a serviço da humanidade? Há também uma tonelada de questões sobre o impacto social, e há muitas questões éticas e filosóficas que precisamos considerar. E é importante que tragamos vozes diferentes, como filósofos, cientistas sociais, artistas e pessoas das ciências humanas.

(Time – 2023)