Inteligência Artificial: Consequências Para A Contemporaneidade
TEXTO I
Avanços e riscos da IA
Há cinco anos, num artigo divulgado no Jornal da USP que foi escrito juntamente com meus colegas Fabio Cozman e Claudio Pinhanez, ambos hoje à frente do Centro de Inteligência Artificial da USP (C4AI),3 já apontávamos para os grandes avanços da IA nas últimas décadas (Sichman et al., 2016):
[...] é inegável o tremendo sucesso pragmático de tecnologias ligadas à IA. Sistemas de busca de informação e de recomendação de produtos são parte de nossa experiência cotidiana. Tais produtos aprendem a partir de dados e decidem com base em regras e em experiências passadas. O sistema financeiro também depende fortemente de programas com capacidade de raciocínio e decisão, que hoje comandam grandes investimentos em bolsas ao redor do mundo. Usamos hoje também sistemas de diagnóstico automático, sistemas comerciais de análise e organização de documentos e até mesmo veículos aéreos não tripulados (drones) para fins pacíficos e militares. Em resumo, nosso mundo já é um mundo no qual máquinas apresentam comportamentos tipicamente associados à “inteligência” [...].
Nesse mesmo artigo, também mostramos que os temores a respeito de robôs aniquiladores da raça humana não poderiam ser construídos com a tecnologia atual:
[...] Considerando a tecnologia de computadores em silício, base da computação hoje e nas próximas décadas, é difícil imaginar como isso seria possível. Um computador com uma capacidade de processamento equivalente àquela de um cérebro humano teria de ser pelo menos mil vezes mais rápido que o mais rápido computador hoje existente. E teria que consumir energia na grandeza de hidrelétricas e dissipar calor usando o sistema de ar-condicionado de um arranha-céu. Como produzir - e dissipar! - tanta energia em um robô é um desafio que a tecnologia do silício dificilmente conseguirá resolver. (ibidem)
Num artigo interessante, Thomas Dietterich e Eric Horvitz (2015) elencaram cinco classes de riscos envolvendo o uso de sistemas de IA:
falhas (bugs): Quaisquer sistemas de software apresentam falhas. Vários sistemas de software convencionais foram desenvolvidos e validados para atingir altos níveis de garantia de qualidade; por exemplo, sistemas de piloto automático e de controle de espaçonaves são cuidadosamente testados e validados. Práticas semelhantes devem ser aplicadas aos sistemas de IA;
segurança (cybersecurity): Os sistemas de IA são tão vulneráveis quanto qualquer outro software a ataques cibernéticos. Por exemplo, ao manipular dados de treinamento ou preferências e trade-offs codificados em modelos de utilidade, adversários podem alterar o comportamento desses sistemas;
aprendiz de feiticeiro (sorcerer’s apprentice): Um aspecto importante de qualquer sistema de IA que interage com as pessoas é que ele deve raciocinar sobre o que estas pretendem, em vez de executar comandos literalmente. Um sistema de IA deve analisar e compreender se o comportamento que um ser humano está solicitando pode ser julgado como ”normal” ou ”razoável” pela maioria das pessoas;
autonomia compartilhada (Shared autonomy): Construir esses sistemas colaborativos levanta um quarto conjunto de riscos decorrentes de desafios sobre fluidez de engajamento e clareza sobre estados internos e objetivos dos envolvidos no sistema. Criar sistemas em tempo real onde o controle precisa mudar rapidamente entre as pessoas e os sistemas de IA é difícil;
impactos socioeconômicos: Precisamos entender as influências da IA na distribuição de empregos e na economia de forma mais ampla. Essas questões perpassam a ciência e engenharia da computação, chegando ao domínio das políticas e programas econômicos que podem garantir que os benefícios dos aumentos de produtividade baseados em IA sejam amplamente compartilhados.
Dentre estes riscos, os três últimos merecem maior atenção, por serem mais particulares ao uso da tecnologia de IA.
Disponível em: SciELO - Brasil - Inteligência Artificial e sociedade: avanços e riscos Inteligência Artificial e sociedade: avanços e riscos
Com base nas informações dos textos e em seus próprios conhecimentos, escreva um texto dissertativo-argumentativo, de acordo com a norma-padrão da língua portuguesa, sobre o tema:
Inteligência Artificial: Consequências Para A Contemporaneidade