App ‘malcriado’ que responde com uso da AI choca pais e professores
Este é um ano que em vemos o uso cada vez mais intenso da inteligência artificial (ou artificial intelligence — AI) e da máquina de aprendizado, nos mais diversos serviços e apps. Um dos que têm se beneficiado dessa tecnologias é o SimSimi, da coreana homônima. O software existe desde 2002 mas agora é que tem se alastrado entre os adolescentes de escolas de diversos países. Até aí tudo bem, porém, as respostas distribuídas pelo robô digital, a partir de perguntas anônimas, têm abusado do teor ofensivo.
App oferece filtro para “palavras” ruins mas sempre tende a falar baixarias
Bem, SimSimi basicamente utiliza a AI para acumular dados sobre questões, nomes e contextos dos jovens. Então, embaralha-os e emite de acordo com a frequência e as informações do usuários. Ele oferece a ilusão de você realmente poder conversar com outras pessoas, justamente pelo fato de aprender com as experiências anteriores.
Ainda que o programa ofereça inicialmente um filtro para diminuir a incidência de “palavras ruins” e seja indicado para jovens de 16 e 17 anos, todos sabemos que para quem usa a graça está em testar a boca-suja da AI — por isso, destilar xingamentos e palavras de cunho sexual explícito está entre as “funcionalidades” do app.
Além disso, é bem provável que seu dicionário venha acumulando muitos palavrões e comportamentos hostis, o que consequentemente também aparece nos vocabulários dos bots. E isso, claro, não é nada agradável. No YouTube, é fácil achar “vítimas” das malcriações do bichinho virtual amarelo:
O bullying e o ciberbullying têm recebido maior espaço na mídia e nas próprias instituições, visto que os problemas gerados por essas agressões têm sido revelados com mais detalhes, o que inclui crescimento com problemas psicológicos e até mesmo suicídio.
Na Irlanda, Inglaterra, México e Uruguai as escolas e grupos de professores têm pedido aos pais falarem com os filhos a respeito do app
Assim, por mais inocente que um app de respostas aleatórias possa parecer, ainda pode ser considerado uma ameaça caso não seja discutido pelos próprios usuários — principalmente por aqueles que veem nas respostas um reflexo das opiniões de colegas e conhecidos ou pelos que acreditam que a máquina seja um humano dialogando.
É o que propõem as escolas de diversas partes do mundo que têm visto no aparentemente “divertido robô virtual” um forma desagradável de brincar socialmente com os colegas. Na Irlanda, diretores têm encaminhado cartas e mensagens para os pais falarem a respeito com seus filhos. O mesmo vem ocorrendo na Inglaterra, no México e no Uruguai.
Em Curitiba, o pai de uma menina de 11 anos viu textos com linguajar explícito no celular dela e pensou se tratar de uma pessoa real do outros lado — coisa que ele acredita até agora, pois o comportamento do SimSimi realmente pode ser imprevisível como o de um humano. A Secretaria Municipal de Educação de Curitiba orientou-o a prestar queixa na Delegacia de Crimes de Informática e a Escola Municipal Duílio Calderari, que já proíbe a entrada de smartphones em locais de estudo, sugeriu aos tutores averiguar os aparelhos dos jovens. Um grupo de pais levou o caso ao Núcleo de Combate aos Cibercrimes da Polícia Civil em Curitiba.
Até agora, a companhia coreana responsável pelo aplicativo ainda não se manifestou sobre o assunto. Enquanto isso, vale a pena também procurar por outras iniciativas, digamos, mais ensolaradas, já que o sucesso da empresa e a manutenção das diretrizes do software dependem justamente de sua popularidade.