O novo estudo alerta para o perigo de inteligência artificial para criar factos históricos falsos, mentiras com especial impacto nos alunos universitários portugueses. Em direto, Nuno Muniz, a partir dos Estados Unidos da América, Nuno investigador na Universidade de Not Redame. Que factos falsos conclui este estudo que a IA produz e que efeitos podem ter?
Bom dia. Então, este é um estudo inérito que olha para mais de 3500 interações, sete línguas, quatro conflitos internacionais. E aquilo que nós observarmos em grande quantidade, não é só a típica alucinação que já toda a gente saberá que estas ferramentas têm o condão de cometer, mas estamos a falar também de destruções cronológicas, falta de eventos que são críticos para compreender essas narrativas históricas, enviesamento devido à presença maioritária de uma língua ou de outra em termos do da sua representação de dados.
Portanto, aquilo que nós fazemos a olhar para estes dados e e conseguindo analisá-los é simplesmente chegar à conclusão. Muito simples, tendo em conta estes problemas e o uso massivo que nós sabemos que estas ferramentas estão a ter a em todo o mundo, mas principalmente na educação. Eh, requer-nos alguma atenção e pensar exatamente quais são os potenciais impactos que poderão advir.
Nuno, porque é que, não sei se me conseguirá responder, mas porque é que a inteligência artificial não reconhece limitações e entrega uma resposta convicta, mas com factos falsos? >> Inteligência artificial não tem agência, não é? Portanto, estas ferramentas funcionam à base de previsão.
Portanto, tendo em conta um determinado de palavras, prevê o próximo, tendo em conta essas, mais a que foi prevista, prevê a próxima, etc. Isso é tudo com base nos dados foram utilizados para fazer essa previsão. E, portanto, esta falta de consciencialização muitas vezes não é fácil de perceber.
Isto é um bocadinho como eh vamos dizer um jornalista e receber uma fonte de informação de alguém super bem vestido e muito bem falante. Independentemente desses fatores, essa informação será revista, será confirmada com outras fontes. E esse é o grau de consciencialização que nós temos de chegar e temos de fazer questão que jovens estudantes em Portugal, mas sociedade em geral chega a essa conclusão.
Nós já fizemos isso com a internet. A minha geração sabe perfeitamente isso. Nós temos que fazer isso também agora.
Temos que fazer esse caminho rapidamente com estas ferramentas e que se apresentam neste momento. >> É importante dar nota deste estudo, até porque grande parte dos estudantes universitários em Portugal usa inteligência artificial. Qual é o maior risco?
Sim, a Académica de Coimbra saiu com um estudo que apontava acho se memória não me vai dar a volta de 80% da utilização por parte de alunos. Portanto, eu acho que existem três coisas que nós temos que ponderar seriamente aqui e agir com determinação. A primeira é a nível de básico e secundário.
Nós temos os melhores professores da Europa. as as os estudos apontam recentemente e isso também requer uma responsabilidade do nosso estado, que é dar a esses professores eh os os mecanismos e os programas em que esta informação é toda destilada para que eles estejam mais preparados e elas estejam mais preparadas para agir no contexto diálogo. Não se trata aqui de diabar a tecnologia, trata-se de ser sérios em perceberem que é que esta tecnologia pode ajudar ou não os problemas ou as lacunas que nós temos a nível do ensino e não partir do princípio que há um condom mágico nesta tecnologia que só utilizá-la já é bom.
>> Mas antes de falar no da antes de falar do facto de ser preciso legislar, só quero que me explique porque é que a língua portuguesa corre mais riscos do que outras línguas. Sim, a língua portuguesa, tal como outras, são línguas de, digamos, baixa representação. Eh, e portanto nós acabamos muitas vezes por ser eh envieszados por línguas mais predominantes, tal como o inglês.
H, e isso leva também a uma reflexão. nós não a fazemos neste neste conjunto de recomendações, mas é algo que se a fazer que tem mais a ver com soberania, ou seja, sobre forma é que nós utilizamos os nossos a nossa informação histórica, digamos assim, para ser para pô-la a favor de de nós próprios, não é? >> [roncando] >> hh mas realmente nós eh enquanto português eh europeu até temos determinantemente um um uma questão que é temos menos representação em termos dos dados que são utilizados para criar estes estas ferramentas.
>> Ou seja, porque há menos conteúdo na internet em português, principalmente português europeu, estes modelos têm menor capacidade de treino ou melhor conteúdo para se basearem em respostas em língua portuguesa. >> Eh, sim. Ou seja, podemos pensar deste ponto de vista e se olharmos para aquilo que seria a hisoriografia portuguesa sobre os eventos eh que dizem respeito à à história portuguesa, é muito provável que essa informação não tenha uma representação muito grande e até muitas vezes devido à à coleção de informação e com base em inglês e ser mais massiva até poder chegar ao ponto em que existe quase uma representação mais ou menos de igual para igual.
HH E portanto isto põe-nos e de certo modo hh eh numa posição não ideal em termos de garantir que a história que os factos históricos que são contados, que são descritos e apresentados a utilizadores nestas ferramentas correspondem àquilo que é facto. >> Temos muito pouco tempo, Nuno. Para terminar é preciso legislar a inteligência artificial.
Eh, enfim, eu acho que existem muitas coisas para legislar a nível da inteligência artificial. Eu acho que a nível deste conjunto de ou deste fenómeno que nós identificamos, acho que nem acho que nem chega necessariamente à parte de legislar, para ser muito honesto. Acho que tem a ver simplesmente com o raio de ação que é do âmbito normal das instituições neste momento.
Tem a ver com ensino básico e ensino secundário, trabalhar em desenvolver essas recomendações e e treino para professores. tem a ver no ensino superior das instituições continuarem o caminho que já estão a fazer, que é de pensar como é que podem se utilizar. E depois a nível governamental existem muitas incógnitas que têm que ser respondidas.
Isso só vem com com ciência, só vem com nós chamarmos coletivamente a nossa comunidade académica para olhar para isto e perceber de que forma é que podemos utilizar estas ferramentas para colmatar problemas que temos eh e não simplesmente para utilizar eh desenferiadamente, digamos assim. Yeah.
