Conversando com Jesus o surgimento das transmissões de IA no Twitch

Conversando com Jesus o surgimento das transmissões de IA no Twitch

Estou assistindo Jesus na Twitch. Ele é um homem branco barbudo que responde a perguntas filosóficas (e não tão filosóficas) do chat. Basta digitar uma pergunta e Jesus irá responder.

Claro, Jesus é uma inteligência artificial. Em certo momento, ele até admite que não é “o Jesus físico”, então pelo menos ele parece estar ciente de si mesmo. O canal afirma que isso foi possível graças às contribuições do The Singularity Group – uma organização não cristã – e à tecnologia da PlayHT, uma plataforma de geração de voz alimentada por IA que replica vozes de celebridades.

De quem é o rosto e a voz usados para o AI Jesus? Não está claro. É divertido? Mais ou menos. Esse é realmente o tipo de conteúdo que a Twitch deveria ser usada? Discutível.

Eu troco para outro canal. Desta vez, é um debate presidencial entre Trump e Biden, também possibilitado pelo The Singularity Group. Novamente, os espectadores podem fazer uma pergunta digitando no chat, mas na maioria das vezes é apenas uma desculpa para tentar fazer os dois presidentes dizerem algo bobo.

A Twitch está promovendo ativamente esse tipo de conteúdo. Role a página inicial para baixo e você encontrará uma seção chamada ‘Provavelmente Artificial, Esperançosamente Inteligente: streams alimentadas por IA e discussões relacionadas’, cheia de streams recomendadas alimentadas por IA.

• Os fãs de Splatoon 3 têm muito a esperar em setembro
• Fã de Elden Ring cria incrível diorama do Iron Fist Alexander
• Nvidia focando em mais placas da série RTX 40 para laptops, pode le...

Usuários em outra stream recomendada para mim estão ocupados criando drama falso em um canal onde você pode controlar versões de IA de streamers e celebridades populares. Amouranth, Asmongold e Kai Cenat estão todos disponíveis como opções, junto com Elon Musk, Presidente Obama, Gordon Ramsay e até mesmo Steve Jobs.

O uso de IA na indústria de jogos eletrônicos está se tornando um debate cada vez mais prevalente: desde seu uso em roteiros e arte, até atores tendo suas semelhanças usadas para mods deepfake.

Mas quais são os perigos de usar IA em streams da Twitch? E por que a Twitch está promovendo isso?

Primeiro, quem é o The Singularity Group? Seu site descreve o grupo como um “grupo de ativistas voluntários motivados e ambiciosos trabalhando em projetos inovadores para fazer a diferença no mundo”. Sua visão se concentra especificamente na Renda Básica Universal, afirmando que a implementação disso é “totalmente viável ao fazer uso das tecnologias certas”.

Como? Criptomoedas, por exemplo. Os Minijogos Mobile é um dos maiores projetos do The Singularity Group, no qual os usuários jogam um jogo mobile focado em caridade para ganhar uma renda por meio da moeda do jogo, a Crypton, que pode ser negociada fora do jogo. O jogo também permite que os usuários criem e joguem como sua própria NFT.

As transmissões ao vivo da Twitch são apenas mais um projeto para o grupo ativista. O The Singularity Group diz que suas transmissões ao vivo são criadas por voluntários e incluem “shows experimentais com o objetivo de inovar entretenimento, angariar fundos e aumentar a conscientização por meio de tecnologia de IA de ponta”. De fato, as streams mencionadas anteriormente incluem opções para doar para os proprietários das streams (em vez de para caridade), mas para onde exatamente vai esse dinheiro?

“No momento, estamos focados em pesquisa de AGI [Inteligência Artificial Geral], pois vemos isso como de longe o problema mais importante em que poderíamos nos concentrar atualmente”, disse Reese Leysen, co-fundador do The Singularity Group, quando entrei em contato.

“Com OpenAI, Google, Facebook e muitos outros correndo para maximizar o potencial comercial da IA enquanto adicionam apenas camadas adicionais primitivas para mantê-la ‘gameficada’, achamos extremamente importante que haja uma pesquisa séria e desenvolvimento para criar IA (e, em última análise, AGI) que tenha fundamentalmente a arquitetura correta para raciocínio independente e compreensão emergente da realidade e da ética, em vez de simplesmente construir sistemas inteligentes que não têm processos de raciocínio reais em seu núcleo e, portanto, são quase impossíveis de ‘gameficar’, levando a riscos potencialmente sem precedentes para a sociedade e a humanidade.”

Assim, essas transmissões de IA na Twitch são apresentadas como pequenas demonstrações limitadas da tecnologia, o que, segundo Leysen, ajudará a estabelecer o The Singularity Group “como um grupo de pesquisa e atrair mais talentos ativos na comunidade de IA de código aberto, levando a mais colaboração”. Simplificando: é coleta de dados e recrutamento.

A Twitch foi escolhida como plataforma para isso porque é “de longe a mais fácil de ganhar impulso”, disse Leysen, observando que a aplicação das diretrizes da Twitch às vezes pode ser rígida e imprevisível, tornando as transmissões ao vivo de IA autônomas e interativas 24/7 desafiadoras.

“Como resultado, dedicamos a maior parte de nossos esforços e recursos nos últimos oito meses para desenvolver nossos próprios sistemas avançados de moderação, a fim de evitar problemas em que as IAs produzem algo que possa ir contra as regras do Twitch”, acrescentou ele.

Qualquer dinheiro arrecadado por essas transmissões por meio de doações vai diretamente para a pesquisa e desenvolvimento de transmissões de IA. A tecnologia do grupo agora permite que a IA reaja em tempo real a vídeos do YouTube, por exemplo, além de interação de voz em tempo real com latência quase zero, para que as conversas fluam naturalmente. Disse Leysen: “Esses são conceitos que provavelmente iremos mostrar em novas transmissões que iremos lançar em breve, com personagens e formatos diferentes.”

Leysen defendeu o uso de criptomoedas para seus Minijogos Móveis como outra forma de arrecadar fundos. “Como ativistas, sempre tentamos direcionar nossos esforços para onde podemos ter o maior impacto positivo possível”, disse ele. “Em determinado momento, percebemos que não poderíamos expandir nossos esforços de caridade ainda mais, a menos que tivéssemos um jogo para dispositivos móveis que financiasse de forma sustentável, em vez de depender exclusivamente de nossas transmissões ao vivo.”

No entanto, o avanço da tecnologia de IA fez com que o grupo mudasse o foco. “Desde que DALL-E e ChatGPT começaram a ganhar impulso, começamos a direcionar nossas prioridades para a pesquisa em IA devido à sua rápida capacidade de causar disrupção na sociedade e ao fato de que a IA geralmente avançada (AGI) pode surgir na próxima década, tornando uma prioridade para nós contribuir com o que podemos para o desenvolvimento responsável de arquiteturas fundamentais de IA”, continuou ele.

Há muito ceticismo em torno da IA e das criptomoedas no momento, algo que Leysen atribuiu ao fato de que o discurso muitas vezes é “bastante simples e tribal”. O grupo está “principalmente focado em contribuições técnicas para o cenário de IA, em vez de tentar mudar a opinião das pessoas”, disse ele, acrescentando que a IA agora está nas mãos das massas, não apenas das grandes corporações. De fato, Leysen vê como importante que grupos menores também avancem na IA.

“Estamos fazendo tudo o que podemos para desenvolver tecnologia que eventualmente nos leve a uma forma de AGI que raciocine de maneira responsável e construtiva, em vez de se tornar uma arma superimaginável controlada por gigantes corporativos”, disse Leysen, evocando um toque de cyberpunk. Mas permanecem inúmeros problemas com empresas desonestas criando conteúdo de IA não regulamentado.

A questão do conteúdo deepfake no Twitch continua sendo uma grande preocupação. No início deste ano, a plataforma teve que atualizar sua política sobre conteúdo deepfake explícito depois que imagens de streamers femininas foram criadas e compartilhadas online. Como relatou o Kotaku na época, o streamer Brandon “Atrioc” Ewing revelou acidentalmente que tinha conteúdo deepfake explícito de streamers em seu computador e as mulheres afetadas não tinham conhecimento de sua existência.

Como resultado, o Twitch emitiu uma política em que o conteúdo deepfake explícito – ou o que chamam de “imagens sintéticas não consensuais exploratórias” (NCEI) – é proibido na plataforma. “A criação, promoção ou visualização deste conteúdo não é bem-vinda no Twitch”, disse ele.

No entanto, a política também abrangeu a “tendência emergente” de conteúdo deepfake, que o Twitch disse que “exigirá consideração cuidadosa e ponderada em nosso planejamento, resposta e ações”. Continuou: “Nem todo conteúdo criado sinteticamente é sexual por natureza, nem todo ele é não consensual. Esse tópico está muito em nosso radar e estamos sempre monitorando comportamentos emergentes para garantir que nossas políticas permaneçam relevantes para o que está acontecendo em nosso serviço.”

Além disso, o Twitch recentemente atualizou seus esforços de segurança para proteger crianças, incluindo garantir a remoção de conteúdo exploratório, como Material de Abuso Sexual Infantil (CSAM) habilitado por IA generativa.

Ainda assim, o conteúdo deepfake e de IA é permitido no Twitch, incluindo o uso de figuras do mundo real como Biden e Trump, embora haja uma linha clara com conteúdo explícito. “É uma área em que continuaremos a prestar atenção, mas acho que os streamers serão os inovadores aqui”, disse o VP de Produto Jeremy Forrester durante o TwitchCon Paris deste ano, discutindo o tema da IA como uma área potencial de crescimento.

Em um novo comunicado ao Eurogamer, o VP de Parcerias Globais do Twitch, Pontus Eskilsson, disse: “Os streamers do Twitch são conhecidos por sua criatividade e, mesmo nessa fase inicial, alguns streamers começaram a experimentar a IA para criar conteúdo incrivelmente único – abrindo novas oportunidades criativas para transmissões animadas e VTubing, bem como transmitindo seus esforços técnicos para treinar novos modelos.

“Mesmo com a presença desse subgênero interessante e oportuno de Twitch, o cerne do nosso serviço sempre será ajudar as pessoas a encontrarem comunidade no Twitch e garantir que elas possam fazer isso com segurança. Todos os streamers e canais em nosso serviço estão sujeitos às diretrizes comunitárias e termos de serviço do Twitch, independentemente de utilizarem IA ou não.”

Leysen também comentou sobre a responsabilidade moral do conteúdo deepfake através da IA. “Nossa posição a esse respeito é bastante tradicional: qualquer uso da tecnologia para enganar intencionalmente é problemático e plataformas como o Twitch terão cada vez mais que encontrar maneiras de evitar abusos nesse sentido, o que é um desafio bastante grande”, disse ele.

“Esperamos que nossas demonstrações ajudem a aumentar a conscientização sobre isso e frequentemente vemos pessoas que ficam chocadas ao verem o que a tecnologia já é capaz de fazer, o que as faz pensar duas vezes da próxima vez que virem um criador/celebridade/político aparecer em um contexto onde possa haver motivo para que tenha sido falsificado.”

Ele adicionou que, nos streams do The Singularity Group, onde os personagens são baseados em indivíduos reais, o conteúdo é claramente rotulado como paródia e atende aos critérios de uso justo. Os streams mencionados, que utilizam IA para criar drama, são um exemplo disso.

“Embora nossos personagens de paródia com IA possam ser vulgares e descontrolados, colocamos muito esforço para garantir que sua produção não seja insensível em relação ao seu histórico pessoal”, disse Leysen. “Exceções a isso ocorrem quando os streamers entram em contato conosco e nos dizem explicitamente que nada está fora dos limites e que eles realmente querem que sua paródia com IA brinque livremente com todas as informações conhecidas sobre eles. Até agora, nenhum streamer reclamou conosco e muitos deles nos disseram que amaram nossas criações, vários também fizeram reações ao vivo em nossos streams que apresentavam a paródia com IA deles.”

Fica claro, então, que o conteúdo e os streams com IA vieram para ficar no Twitch, embora o quanto eles contribuem para o cerne da busca por comunidade seja discutível. Para Leysen e os ativistas do The Singularity Group, os streams com IA estão dentro do uso justo da plataforma e são uma maneira de mostrar a habilidade tecnológica e disruptiva da IA – ao mesmo tempo em que destacam seus perigos. E embora haja uma linha clara contra material explícito, até onde a integração da IA nos streams do Twitch pode chegar? Em breve estaremos assistindo streams totalmente controlados por IA: jogando jogos, respondendo ao chat e criando uma comunidade segura e moderada?

Talvez essa seja uma pergunta para fazer ao Jesus.