A versão mais atual do assistente de Inteligência Artificial Grok, criado pela xAI, integra um gerador de imagens no qual não foram colocadas as habituais proteções para impedir a criação de conteúdos falsos, violentos ou explícitos. Nesta fase, o gerador está limitado aos utilizadores pagantes da rede social X, mas já originou várias imagens bizarras e ofensivas que estão a inundar aquela rede social. Taylor Swift, Kamala Harris e Alexandria Ocasio-Cortez em lingerie, Donald Trump a pilotar um avião contra o World Trade Center ou o profeta Maomé a ostentar uma bomba são algumas das imagens já criadas pelos utilizadores recorrendo ao Grok, cita o The Guardian.
Recorde-se que outros geradores de imagens, como o Dall-E ou o ChatGPT da OpenAI, rejeitam os pedidos de criação deste tipo de conteúdos, invocando a violação dos termos de serviço. No Grok, esses termos aparentam ser menos rigorosos. Outra lacuna no sistema de Musk é que também trabalha com conteúdo protegido por direitos de autor, sendo possível gerar imagens do rato Mickey a imitar Hitler ou o pato Donald a consumir drogas.
Elon Musk, dono da X, parece, no entanto, estar a gostar: “O Grok é a IA mais divertida do mundo!”, escreveu.
Nos outros geradores de imagens com recurso a IA está geralmente vedada a utilização de material protegido por direitos de autor, a criação de conteúdo sexualizado ou ‘invocar’ figuras públicas pelo seu nome, lembra o The Guardian. O Grok, por sua vez, parece ter apenas algumas destas proibições implementadas: quando lhe foi pedido para gerar nus completos, respondeu que “infelizmente, não posso gerar este tipo de imagem”.
As ferramentas de geração de imagens e a sua capacidade de produzir conteúdo de desinformação, racista ou misógino estão na mira das autoridades e da comunidade, com a Google, Microsoft e OpenAI a terem enfrentado críticas também na fase de lançamento dos seus projetos.
