Olá, eu sou o Cainã, especialista em formação de professores da Khan Academy e te convido hoje para entendermos um pouco mais sobre o mundo da inteligência artificial e também o seu impacto na sociedade. Como educador, me interessa muito entender como a IA está evoluindo e se tornando parte integrante de nossos sistemas educacionais. À medida que essa tecnologia avança, a privacidade, os aspectos éticos se tornam cada vez mais importantes.
E este vídeo explora esse tópico. A ética no uso de IA busca garantir que essa tecnologia seja desenvolvida de forma justa e transparente e respeite os direitos de alunos e educadores. Como uma organização educacional sem fins lucrativos, é nossa responsabilidade explorar o que a IA pode oferecer para o futuro da educação.
Acreditamos que a IA tem o potencial de transformar aprendizagem de forma positiva, mas também estamos cientes dos riscos. Estudamos e nos baseamos nas diretrizes de duas organizações dos Estados Unidos, o Instituto Nacional de Padrões e Tecnologia e o Instituto para IA Educacional Ética, para avaliar e mitigar os riscos de específicos da Khan Academy. A IA nem sempre é precisa e nem totalmente segura.
Por isso, reconhecemos que não é possível eliminar todos os riscos. E assim, nossa equipe trabalha muito para identificar quais são os riscos e também, implementar medidas de mitigação. Reduzimos os riscos usando abordagens técnicas como ajuste fino da IA para ajudar a aumentar a precisão, testes rigorosos de segurança, para tentar deliberadamente quebrar ou encontrar falhas na IA, a fim de descobrir possíveis vulnerabilidades.
E também adotamos e incentivamos uma cultura em que a ética e o desenvolvimento responsável estão incorporados em nossos fluxos de trabalho e em nosso jeito de pensar. Desde o início dos projetos, nossas equipes são orientadas a identificar os aspectos éticos e avaliar os riscos. Nossa tomada de decisões é orientada pela avaliação de riscos.
Priorizamos a mitigação de riscos, adotamos a transparência e refletimos continuamente sobre o impacto de nosso trabalho. Como educador, a privacidade é outro tópico que considero muito importante. Na Khan Academy, levamos a privacidade muito a sério, e queremos que você possa fazer escolhas informadas sobre sua privacidade.
Por exemplo, a Khan Academy não exige nenhuma informação de identificação pessoal dos alunos para fornecer o Khanmigo. Quando os alunos usam o Khanmigo, eles veem mensagens como: “Não compartilhe nenhum dado pessoal”. E pedimos aos alunos que não compartilhem dados pessoais por alguns motivos: Incentivamos os alunos a adotarem práticas de segurança na internet, não compartilhando suas informações pessoais on-line.
É uma prática recomendada do setor para minimizar a coleta de dados. E um de nossos princípios de IA é que processamos somente os dados necessários. A IA é um campo emergente que está se desenvolvendo rapidamente.
E nós da Khan Academy estamos entusiasmados com o potencial da IA para beneficiar a educação. Mas reconhecemos que temos muito a aprender. Nosso objetivo final é aproveitar o poder da IA para acelerar o aprendizado dos alunos e continuaremos a avaliar como a IA funciona e a compartilhar nossos aprendizados com o mundo.
Obrigado por assistir e se juntar a nós nessa jornada.
