Sobre o texto The World is not a Desktop, de Mark Weiser
Mark Weiser alega que uma boa ferramenta tecnológica é aquela que te faz focar na tarefa, e não no meio. A invisibilidade à qual Weiser se refere é aquela atrelada ao contexto, e não à ferramenta em si. "Boas ferramentas aumentam a invisibilidade." (Weiser, 1993).
Apesar de o texto possuir bons insights, há pensamentos que denunciam a época em que foi escrito. É curiosa a comparação que o autor faz entre a atratividade da televisão em comparação com a televisão casual no computador, como se uma jamais fosse chegar aos pés da outra, sendo que hoje esta se tornou a principal fonte de conteúdos audiovisuais da nossa geração, com as plataformas de streaming. Outro exemplo dado sobre os inputs de voz já são contestados pelas gerações atuais. Frequentemente, uso o microfone para ditar para o celular quando estou com pressa e não posso digitar. Essa funcionalidade já se provou útil.
Contudo, o autor levanta um ponto muito interessante quando ele diz que a mágica tem a ver com psicologia e estratégias de vendas. Vejo muito atualmente pessoas de áreas de tecnologia que acreditam que ela, por si só, vai resolver todos os problemas, que é a solução para os negócios. Fala-se muito em inovação. Inovar, renovar, mas por quê? O que se ganha com isso? Por quê investir milhões em um aparelho eletrônico para desempenhar uma tarefa que pode ser feita com igual sucesso ou até mais por pessoas?
Recentemente, alguns colegas meus estavam discutindo sobre inteligência artificial. Um celular atualmente possui a capacidade de reconhecer um rosto, identificar fisionomia, discernir olhos e boca. O Facebook, por exemplo, de vez em quando quer marcar alguém na minha foto. Às vezes, eu nem tinha me visto em uma foto e a rede social já aponta para mim.
Será que eu quero essa mágica? Será que ela deveria estar sendo aplicada em todo lugar, sem reflexão? Muitos algoritmos de inteligência artificial têm se provado racistas. Imagine o seguinte cenário: uma empresa investe muito dinheiro em inteligência artificial para realizar processos seletivos. "A tecnologia resolverá nossos problemas! Em breve, não precisaremos mais de profissionais de RH", pensa algum iludido. O resultado pode ser uma seleção racista. O mesmo para uma empresa de segurança, que treina algoritmos com preconceitos que indicam reincidência criminal de pessoas negras equivocadamente. Tudo isso é assustador, tudo isso faz repensar o porquê de estarem querendo enfiar Inteligência Artificial goela abaixo a qualquer custo. Não caio nessa. Nós, como Designers, deveríamos bater o pé e nos perguntar o porquê de tudo isso antes de sairmos empolgados com tecnologias que se passam por invisíveis, fluidas e mágicas mas que na verdade carregam os mesmos preconceitos enraizados na sociedade há séculos. Existem serviços que são desempenhados mil vezes melhor por uma pessoa do que qualquer máquina super potente.
Ei, mas não estou falando isso porque eu não gosto de eletrônicos, e muito menos para que nós desistamos deles. Existe esperança. Dá para fazer muita coisa legal com consciência. Só precisamos pensar se na invisibilidade das tecnologias que projetamos e incentivamos há outras coisas ocultas, como preconceitos, exclusão, discriminação, coleta de dados desnecessários, propaganda enganosa, persuasão antiética. Com todas as informações que temos uns dos outros, temos que lutar pela nossa privacidade e impedir a nossa exposição pessoal, que está tão presente que se torna invisível.
"Our computers should be like our childhood: an invisible foundation that is quickly forgotten but always with us, and effortlessly used throughout our lives."(Weiser, 1993)
Mariana Menezes
https://www.uol.com.br/tilt/noticias/redacao/2018/04/24/preconceito-das-maquinas-como-algoritmos-tomam-decisoes-discriminatorias.htm














