Ao estilo de foi antecipado em histórias de ficção, a tecnologia AI tem muito potencial para abusos por parte de corporações em prejuízo de consumidores e trabalhadores.
Quando o filme Minority Report estreou em 2002, parecia pura ficção científica existirem painéis publicitários que reconheciam os cidadãos e lhes apresentavam publicidade personalizada; hoje em dia - na verdade, há anos - é isso que acontece milhares de vezes por dia, ao se percorrer qualquer site na internet. Mas agora, o tópico do momento são as tecnologias AI, e também aí temos más notícias sobre o uso que pode ser dado a estas tecnologias.
Não é segredo que as tecnologias AI vão levar à redução significativa de muitos postos de trabalho. É um cenário que vai sendo amenizado com a ideia de que "surgirão novos trabalhos" em consequência, mas sem que sejam ditos concretamente quais. São também referidas as muitas vantagens e potencialidades da tecnologia AI, tanto a nível de poupar tempo e aumentar a produtividade, como potencialmente assistir os humanos a fazer grandes avanços que melhorem a nossa sociedade. Infelizmente, se potencialmente isso poderá acontecer, há também outros cenários bastante mais prováveis e menos positivos, alguns dos quais já estão a passar da ficção para a realidade, como os preços diferenciados para cada pessoa.
No passado já vimos coisas como sites que apresentam preços diferenciados dependente do visitante usar um iPhone ou um smartphone Android. Mas, com a crescente recolha de dados sobre cada pessoa e as tecnologias AI, as coisas passam para níveis muito mais evoluídos com o chamado "
surveillance pricing".
Aqui, o preço não é definido apenas com base no equipamento que o consumidor utiliza, mas também em muito mais informação: uma pessoa que esteja à procura de um quarto num hotel, poderá ver um preço inflacionado se o sistema detectar que a pessoa tem um voo marcado para daqui a algumas horas e que, se não aceitar o preço, se arrisca a ter que dormir numa cadeira no aeroporto; ou que a pessoa tem sessões de quimioterapia agendados, e que não terá disposição ou saúde para andar a tentar mais hotéis. Outras empresas prometem maximizar o lucro de restaurantes com drive-in, ajustando o preço dos menus em função dos clientes terem recebido o seu ordenado recentemente.
O mesmo se aplica em sentido inverso no momento se contratar funcionários. Uma empresa pode oferecer um valor mais reduzido se souber que a pessoa em causa está atolada em dívidas dos seus cartões de crédito, e que está mais desesperada para ganhar qualquer valor.
Poderá dizer-se que a solução será "lutar o fogo com fogo", no sentido em que poderemos igualmente utilizar tecnologias AI para nos assistir nestas situações, deixando que seja um assistente AI a ter o trabalho de analisar qualquer a melhor proposta para encontrar um quarto de hotel à última hora, ou para saber qual o ordernado mais justo para determinada função. Mas, para tal, teremos que assumir que teremos modelos AI que realmente tenham como prioridade ajudar os utilizadores, e que estejam acima de qualquer suspeita de que possam ter sido influenciados com outros objectivos.