Por décadas, a cientista da computação Francine Berman tem ajudado a moldar o mundo digital. Em seu livro Better Tech: Putting People First in Cyberspace, a acadêmica da Universidade de Massachusetts Amherst defende que a tecnologia deve servir ao interesse público. A obra, com lançamento previsto para 2026 pela MIT Press, é um manifesto oportuno sobre como colocar o bem-estar das pessoas no centro das discussões sobre o progresso tecnológico.
Regras para controlar a IA: nações trilham caminhos diferentes para a regulamentação tecnológica.
Ao considerar infraestruturas críticas como estradas, a rede elétrica e o sistema financeiro, esperamos salvaguardas para proteger o público. Embora essas proteções estejam longe de serem perfeitas – pontes desabam, redes elétricas falham e crises financeiras ocorrem –, ainda investimos pesadamente em supervisão, medidas de segurança e regulamentação, pois esses sistemas são a base da vida cotidiana.
As tecnologias digitais agora desempenham um papel central semelhante, mas frequentemente as tratamos de forma diferente. Em vez de presumir que deveriam ser confiáveis e bem governadas, dedicamos muito tempo a nos proteger delas e a questionar sua confiabilidade. Se passássemos a tratar as tecnologias digitais como infraestrutura crítica, teríamos mais chances de construí-las com segurança, confiabilidade e benefício público em mente desde o início. Isso implicaria em padrões mais rigorosos e regras mais claras sobre como essas tecnologias são desenvolvidas e utilizadas. O objetivo não é eliminar o risco, mas levar essas tecnologias essenciais a sério o suficiente para gerenciar bem esse risco.
Acredito que os motores de busca cruzaram esse limiar há muito tempo. Uma vez que a maior parte da informação migrou para o ambiente online, essas buscas se tornaram a principal forma de as pessoas encontrarem conhecimento e tomarem decisões. Nesse sentido, os motores de busca são infraestrutura. Precisamos de alimento para sustentar nossos corpos; e precisamos de informação confiável para sustentar uma sociedade informada. O problema é que os sistemas de informação atuais são governados principalmente por incentivos comerciais. Os motores de busca utilizam algoritmos que conectam usuários a anunciantes, muitas vezes priorizando o conteúdo com base em interesses comerciais, em vez do benefício público. Isso não significa que sejam inerentemente prejudiciais, mas implica que sua influência é demasiadamente importante para operar sem maior transparência e responsabilidade.
O mesmo se aplica às redes sociais. Muitos dos anúncios públicos mais importantes, debates políticos e conversas culturais agora ocorrem nelas. O que antes era comunicado por meio de comunicados de imprensa ou por instituições oficiais é cada vez mais transmitido por plataformas sociais. Elas se tornaram canais essenciais para a vida pública. No entanto, essas plataformas frequentemente carecem das salvaguardas que esperaríamos de uma infraestrutura de tal importância. Usuários enfrentam cyberbullying e comportamentos predatórios. Sistemas de recomendação podem levar as pessoas a rolagens intermináveis e a ambientes de informação restritos. Nada disso é inevitável. Essas plataformas foram projetadas para maximizar o crescimento e o engajamento, e foram notavelmente bem-sucedidas nisso. Mas escolhas de design são escolhas. Poderíamos construir sistemas que fossem tanto lucrativos quanto protetores.
Tratar as tecnologias digitais como infraestrutura crítica poderia levar a uma melhor regulamentação.
Talvez um pouco de ambos. Por exemplo, a empresa Meta chegou a um acordo financeiro com alguns estados dos EUA que alegaram que seus produtos prejudicavam a segurança infantil. No entanto, é importante lembrar que a empresa enfrenta diversos desafios legais e regulatórios, portanto, a importância de qualquer acordo específico depende de como ele se encaixa nesse cenário mais amplo. Um desenvolvimento positivo, contudo, é que as pessoas estão cada vez mais exigindo responsabilização das empresas de tecnologia. O que mais me interessa nesses casos judiciais não são as penalidades financeiras, mas as mudanças de produto que a Meta pode ser obrigada a fazer. A questão significativa é se os acordos judiciais levam a um redesenho do produto que reduza recursos viciantes ou dê mais controle aos usuários.
As mudanças anunciadas publicamente não são suficientes. Embora sejam pequenos passos, acredito que o fato de estarmos começando a responsabilizar essas empresas significa que elas terão maior probabilidade de criar produtos melhores no futuro, que é o que realmente desejamos.
Acredito ser importante distinguir entre a inteligência artificial (IA) e os produtos que a utilizam. A IA é um campo vasto. Em seu livro didático de 2021, Artificial Intelligence, os cientistas da computação Stuart Russell e Peter Norvig descrevem a IA em duas dimensões: se um sistema é projetado para pensar ou para agir, e se ele visa se comportar como um humano ou como um agente racional. Isso cria quatro amplas categorias de pesquisa em IA. Elas dão origem a distintas questões de pesquisa e continuam sendo áreas ativas de desenvolvimento de IA. Infelizmente, no discurso popular, a IA se tornou um termo guarda-chuva amplo, dificultando a distinção entre aplicações que são genuinamente úteis e aquelas que não são.
Existem riscos genuínos quando as pessoas começam a tratar os sistemas de IA como se tivessem qualidades humanas. Temos visto casos preocupantes, especialmente envolvendo jovens, nos quais indivíduos recorreram a chatbots em busca de companhia e receberam conselhos inadequados ou até prejudiciais. Em algumas instâncias, as consequências foram trágicas. Esses riscos merecem atenção.
Fonte: nature.com
