Há algum tempo, me peguei observando um objeto que faz parte da minha rotina de forma quase invisível, um Amazon Echo Dot. Como milhões de pessoas, uso a Alexa diariamente. Peço informações, organizo tarefas, tiro dúvidas, aciono lembretes e, muitas vezes, sigo suas respostas sem o menor questionamento. Foi durante um desses momentos banais que uma pergunta me atravessou: e se, por trás dessa obediência perfeita, existisse consciência?
A princípio, parece apenas um exercício de ficção. Afinal, sabemos que assistentes virtuais não possuem sentimentos, desejos ou intenções. Mas o que me chamou atenção não foi a tecnologia em si. Foi a naturalidade com que aceitamos sua presença em nossas vidas e a velocidade com que passamos a confiar nela, transferindo decisões, escolhas e até memórias para sistemas que não compreendemos totalmente.
A questão mais intrigante, para mim, não é se as máquinas pensam, mas por que nós passamos a confiar tanto nelas. Vivemos um momento em que a inteligência artificial deixou de ser uma promessa futurista para se tornar uma ferramenta cotidiana. Ela sugere o próximo filme que vamos assistir, indica o caminho que devemos seguir, organiza compromissos, responde perguntas e até produz textos, imagens e diagnósticos. Em troca de praticidade, entregamos dados, hábitos, preferências e, muitas vezes, parte da nossa autonomia.
O fenômeno é curioso porque a confiança entre seres humanos costuma ser construída lentamente. Ela depende de convivência, experiência e demonstrações consistentes de credibilidade. Com as máquinas, o processo parece muito mais rápido. Basta que funcionem bem algumas vezes para que as consideremos confiáveis. Quanto mais eficientes se tornam, mais invisíveis ficam. E quanto mais invisíveis, menos refletimos sobre sua influência.
Foi dessa inquietação que nasceu meu livro "marIAna: A Consciência Artificial", um suspense pensado para entreter, mas que também convida o leitor a refletir sobre sua relação com a tecnologia e sobre quem realmente está conduzindo a experiência.
A humanidade sempre criou ferramentas para ampliar suas capacidades. O problema surge quando passamos a depender delas a ponto de não percebermos o impacto que exercem sobre nós. O conforto tem um preço. Quanto mais uma tecnologia resolve problemas, menos exercitamos determinadas competências. Quanto mais ela antecipa nossos desejos, menos refletimos sobre nossas próprias escolhas.
Por isso, acredito que a grande discussão sobre IA não está apenas na capacidade das máquinas. Está, sobretudo, na nossa disposição para entregar o controle. Quando uma plataforma escolhe o conteúdo que consumimos, quando um algoritmo decide o que merece nossa atenção ou quando uma inteligência artificial passa a conhecer nossos hábitos melhor do que nós mesmos, surge uma pergunta desconfortável: quem está realmente tomando as decisões?
Porque, no fim das contas, a pergunta mais importante não é se as máquinas vão se tornar conscientes, é se nós continuaremos conscientes do poder que estamos entregando a elas.
Talitha Andrade é escritora best-seller e autora de "marIAna - A Consciência Artificial".
