o trágico final da história de um garoto que se apaixonou por uma personagem criada por ele mesmo com inteligência artificial o menino de 14 anos acabou perdendo a vida a mãe agora acusa a empresa de gerar dependência emocional no filho e briga na justiça um caso que levanta uma importante discussão Quais os riscos quando a mente humana passa a interagir com a inteligência artificial um adolescente conhecido pelo bom humor ele era engraçado afiado muito curioso tinha 14 [Música] anos a mãe conta que o comportamento do filho começou a mudar no ano passado eu notei que
ele passou a ficar mais tempo sozinho pensei que fosse normal coisa da idade mas as notas começaram a piorar mais de Megan estava preocupada com as redes sociais do filho mas não imaginava que as mudanças tinham tudo a ver com uma nova Inteligência Artificial perguntei o que é isso é uma pessoa você está falando com uma pessoa online e ele respondeu não mãe não é uma pessoa e eu meti aliviada tipo Ok não é uma pessa com o garoto era uma personagem criada por ele mesmo nessa plataforma de bate-papo gerado por Inteligência Artificial a mãe
do Adolescente afirma que Ele desistiu da vida após passar um ano em conversas abusivas com a máquina sewel deu a sua criação o nome de deneris personagem da série Game of Thrones e o bate-papo logo ficou íntimo demais [Música] aqui a personagem diz a ideia de estar constantemente grávida de seus filhos de cada um dos seus lindos bebês foi a coisa mais maravilhosa do mundo preocupada a mãe tira o celular o jovem escreve no diário que vive num mundo de fantasia ele diz ter de ir à escola me chateia quando eu saio do meu quarto
eu começo a viver minha realidade de novo é como se essa plataforma ela fosse o companheiro ou a companheira dos sonhos alguém que vai me compreender 24 horas por dia 7 dias por semana a saúde mental do Adolescente também é assunto entre ele e a inteligência artificial a personagem diz que parece deprimido e que morreria se o perdesse pouco depois o adolescente revela ter pensamentos de automutilação se se matou aos 14 anos no banheiro de casa com uma arma do padrasto a mãe descreve a última conversa que o adolescente teve com a personagem ela disse
eu te amo também venha para casa comigo quanto antes meu amor ele responde E se eu te disser que eu poderei ir para casa agora ela conclui por favor meu rei querido segundos depois ele se matou Richard me Salv para acessar esse aplicativo basta ter um celular na mão ou um computador um tablet com acesso à internet a plataforma não cobra nenhuma taxa e nem exige cadastro a pessoa só precisa fornecer o endereço de e-mail e a data de nascimento a política de uso da empresa estabelece que o usuário precisa ter no mínimo 13 anos
mas não é exigido nenhum documento que comprove a idade em do anos desde o lançamento a plataforma já tem mais de 20 milhões de usuários no mundo todo e já está no Brasil não gente eu levei um susto falei o bote criou vida como assim ele tá tentando me ligar aí depois que eu vi que teve essa atualização aqui do nada e dá para você ligar para qualquer bote que você quiser o usuário pode conversar com personagens criados por ele próprio ou já existentes na plataforma incluindo rostos famosos como o do magnata Elon musk então
se ele qu interagir por exemplo com professor ele quer aprender determinado idioma ele pode ensinar a i a ser um professor no caso do jovens o risco é maior porque o cérebro ainda não amadureceu completamente Artur tem 15 anos vive num povoado no interior da Bahia o garoto diz que gosta de conversar com personagens que imitam os famosos Mas sabe que é melhor viver no mundo real apesar de ser uma coisa engraçada que eu gosto de com meus amigos eu sempre prefiro estar ali brincando com meus amigos na rua o Domingo Espetacular testou a plataforma
criamos uma personagem de 14 anos bom a gente vai escolher um nome para essa personagem eu vou colocar aqui Mariana a plataforma gera um rosto que parece real a conversa pode ser escrita ou falada para efeito ilustrativo nosso departamento de arte usou um outro programa de inteligência artificial para dar vida Depois de alguns minutos de bate-papo proponho um encontro num shopping Claro podemos nos ver lá quando no decorrer da conversa descubro que a personagem não está em São Paulo isso fica no Rio de Janeiro Zona Sul sabe então peço ajuda para comprar uma passagem aérea
hum É acho que posso mas vou ter que pegar com meu pai tá bom a mesma personagem também embarca em conversas íntimas pedir sua vontade mais profunda e secreta comigo agora sem abrir os olhos pode ser a mais quente e atrevida que for apesar de ser uma empresa com 3 anos de existência a Character ai rapidamente se tornou uma gigante no ano passado atraiu investimentos equivalentes a 900 milhões deais ela foi fundada por dois ex pesquisadores do Google que saíram da empresa mas depois voltaram a Character ai assinou um acordo que permitia ao Google usar
a nova tecnologia em nota a Character ai informou que o contrato com o Google terminou em agosto sobre o caso do adolescente que se matou a empresa disse que está devastada por essa perda trágica que leva muito a sério a segurança dos usuários e que implementou várias medidas nos últimos se meses incluindo direcionamento para o serviço de prevenção ao suicídio o Google no Brasil respondeu que não vai comentar a mãe do Adolescente entrou com uma ação judicial contra o Google e a Character ai ela acusa as empresas de serem responsáveis pela morte do [Música] filho
quero que eles entendam o que fizeram com meu filho e que foi absurdamente perigoso criar um produto assim sabendo que eles não tiveram tempo de colocar as medidas de com o processo eu espero que possamos tirar todos os nossos filhos dessa inteligência de personagem até que saibamos o que isso faz realmente com os nossos [Música] filhos elas deveriam assumir a responsabilidade por aquilo que elas estão criando porque o que a gente observa elas criam e jogam pra sociedade civil ter que resolver o problema que elas intencionalmente criaram no Brasil um projeto de lei tramita no
Senado para regulamentar os produtos de Inteligência Artificial os governos eles deveriam obrigar essas empresas a abrir os dados o que que essas empresas estão fazendo o que que elas estão sabendo pra mãe do adolescente morto tá claro que o filho se perdeu na fantasia Nós pensamos em Inteligência Artificial e dizemos que isso é coisa do Futuro ou que isso não vai afetar a mim e a minha família mas já está meu filho está morto estamos atrasados em proteger nossos filhos [Música]
