CEO admitiu que uma IA do Google aprendeu coisas que nunca foram ensinadas.
O CEO do Google, Sundar Pichai, admitiu no domingo que a sociedade precisará se preparar para os rápidos avanços na inteligência artificial que estão prestes a desestabilizar o mercado de trabalho e exacerbar as preocupações com a segurança. Em entrevista ao programa “60 Minutes” da CBS na noite de domingo, Pichai pediu novos regulamentos para governar a IA – mesmo quando Elon Musk e outros pedem uma pausa total no desenvolvimento de sistemas avançados de IA devido a questões de segurança.
“Acho que temos que ser muito atenciosos. E acho que essas são todas as coisas que a sociedade precisa descobrir à medida que avançamos. Não cabe a uma empresa decidir.” disse Pichai.
O CEO da Google chocou o âncora do “60 Minutes” Scott Pelley com uma série de proclamações ousadas sobre as aplicações potenciais da IA – declarando que isso afetaria “todos os produtos de todas as empresas” em um futuro próximo e até mesmo admitindo em um ponto que o Google não entendeu completamente todos os aspectos de seus próprios sistemas.
Pichai disse que a inteligência artificial avançada causaria principalmente perdas de empregos entre os chamados “trabalhadores do conhecimento”, como escritores, contadores, arquitetos e engenheiros de software.
Em um ponto durante a conversa abrangente, Pichai abordou cenários bizarros nos quais os programas de IA do Google desenvolveram “propriedades emergentes” – ou aprenderam habilidades imprevistas nas quais não foram treinados.
Em um caso, um programa do Google desenvolveu a capacidade de traduzir o idioma bengali – apesar de nunca ter sido “ensinado” o dialeto. Pichai admitiu que os engenheiros de sua empresa não conseguiram explicar totalmente o fenômeno.
“Há um aspecto disso que chamamos, todos nós da área o chamamos de ‘caixa preta’. Você sabe, você não entende completamente. E você não consegue dizer por que disse isso ou por que deu errado.
A resposta levou Pelley a questionar como o Google poderia “soltá-lo na sociedade” sem um entendimento total da tecnologia. “Deixe-me colocar deste jeito. Acho que também não entendemos completamente como a mente humana funciona”, acrescentou Pichai.
“A IA afetará tudo. Por exemplo, você pode ser um radiologista – se pensar daqui a cinco ou dez anos – terá um colaborador de IA com você. Você chega de manhã, digamos que você tem uma centena de coisas para resolver, pode dizer para a IA, ‘esses são os casos mais sérios que você precisa examinar primeiro.’”
Pichai admitiu ter dúvidas sobre se a sociedade estava pronta para o impacto iminente da IA.“Existem duas maneiras de pensar sobre isso. Por um lado, sinto que não, porque você sabe, o ritmo em que podemos pensar e nos adaptar como instituições sociais, em comparação com o ritmo em que a tecnologia está evoluindo – parece haver uma incompatibilidade.”
“Por outro lado, em comparação com qualquer outra tecnologia, vi mais pessoas preocupadas com ela no início de seu ciclo de vida – então me sinto otimista. O número de pessoas, você sabe, que começaram a se preocupar com as implicações e, portanto, as conversas também estão começando de maneira séria.”
O debate sobre a segurança da IA se intensificou nos últimos dias devido ao grande sucesso do ChatGPT da OpenAI, apoiado pela Microsoft. O chatbot ganhou muitos seguidores devido às suas respostas humanas a vários prompts, ao mesmo tempo em que aumenta as preocupações com possíveis perdas de empregos e a disseminação de desinformação.