Young Guru levantou preocupações sobre a tecnologia de inteligência artificial depois que uma música falsa de Kendrick Lamar apareceu online.
Young Guru, lendário produtor de Jay-Z, compartilhou um vídeo no Instagram nesta semana que mostrava um homem criando uma música do zero usando um filtro de voz de Kendrick Lamar. O homem mostrou brevemente como o filtro mudou sua voz para soar exatamente como K. Dot e começou a gravar uma música real que soava como algo que o rapper faria.
De acordo com Guru, a tecnologia de voz usando Inteligência Artificial apresenta uma série de problemas, especialmente se cair nas mãos erradas. Em sua legenda, o afiliado da Roc-A-Fella instou os poderes constituídos a agir rapidamente e implementar leis que protejam as pessoas dos possíveis perigos de tal tecnologia. “Isso dominou meu bate-papo em grupo Howard por alguns dias. Ok, estou no ponto em que posso expressar minhas preocupações com nosso estado atual de IA”, começou o Young Guru. “Eu tenho seguido tantas versões do que a IA poderia fazer por alguns anos”.
“Lembro-me de estar no MIT e os alunos me mostrarem um projeto em que alimentavam ativamente um computador com ‘Todos’ os discos de jazz que já existiram. Para que a IA pudesse analisar e criar música em qualquer estilo de qualquer músico”; Ele continuou: “Não pensei que chegaríamos aqui tão rápido com a voz. É claro que minha mente vai para os aspectos éticos e legais do que pode ser feito com programas como o Tacotron 2. Você adiciona isso ao poder do ChatGPT e percebe que estamos em um momento muito inovador, mas perigoso. Não é a tecnologia, é o mal que os homens fazem com a tecnologia”.
Guru passou a explicar que atualmente as pessoas não podem registrar uma voz, o que cria um dilema com a tecnologia de alteração de voz, pois qualquer pessoa pode soar como outra pessoa e efetivamente colocar palavras em sua boca. “Existem aspectos legais porque neste momento não se pode fazer copyright de uma voz, acrescentou. “Você pode registrar uma música ou um discurso, mas não a voz em si!!! Você pode literalmente criar uma música ou um álbum na voz do seu músico favorito. E isso é apenas música”.
“Ainda há estados que nem sequer têm uma lei contra vinganças. Lamento ir até lá, mas imagine a repercussão em nossos filhos quando, daqui a 5 anos, um garoto do ensino médio ficar bravo com a ex-namorada e criar toda uma ‘profunda falsificação’ que soa e parece real. Imagine o cenário político em que não podemos acreditar em nada que ouvimos porque alguém alegará que não foi o que disse. ‘É um Deep Fake’ será o mesmo que dizer ‘Fui hackeado’”.
Por fim, o Young Guru alertou que o uso da inteligência artificial está apenas começando e só será mais prevalente no futuro. Com isso, mais pessoas exploram – e potencialmente exploram – a tecnologia. “Eu nem quero continuar dando exemplos por medo de que alguém saia e faça isso”, acrescentou Guru. “A lei tem que mudar para proteger a todos, não apenas as figuras públicas. E a parte super assustadora é que estamos apenas começando, alimentamos a fera constantemente todos os dias com mais e mais conteúdos a serem estudados. Talvez os luditas tivessem razão. O livro de Gavin Mueller ‘Breaking Things At Work’ começa a assumir um papel bem mais urgente!!”
Confira abaixo a postagem no Instagram: