Notícia em destaque

Assessoria de Comunicação Institucional - Como surgiu o convite para que integrassem essa comitiva no Vaticano?

Edgar Lyra – A PUC integra a SACRU (Strategic Alliance of Catholic Research Universities) há alguns anos. Fiz parte do WG 5 (AI, Agency and the Human Person) durante o ano de 2021 e início de 2022, desligando-me para dedicação exclusiva ao Planejamento Estratégico 2024-2030 da PUC-Rio, e regressei ao WG em 2024, quando fui apresentado à proposta de escrever um livro sobre IA, organizado pela professora Anna Maria Tarantola, finalmente lançado com o título de Artificial Intelligence and Care of Our Common Home: a Focus on Industries, Finance, Education and Communication. Convidei a professora Clarisse, com quem vinha trabalhando, para produzirmos juntos o texto. O resultado foi o terceiro capítulo da obra: "Less Visible Risks of AI-based Technologies: the Civilizational Threat of Discursive and Epistemic Dysfunction". O livro tem 16 capítulos, uma introdução feita pelo Cardeal Tolentino e uma apresentação feita pela já referida Anna Maria Tarantola.

AsComInst. – Sendo um da informática e outro da filosofia, como se dá, na prática, o diálogo entre a construção dos algoritmos e a reflexão ética dentro da Universidade?

Edgar Lyra – A coisa não é assim tão dicotômica. Clarisse formou-se e atuou no campo da linguística, antes de se dedicar à computação. Eu comecei trabalhando como engenheiro químico, antes de me dedicar à filosofia. Além disso, integramos, há algum tempo, um grupo fundado por ela, fortemente transdisciplinar, chamado EMAPS (Ética e Mediação de Processos Sociais). A ideia geral é que não há como enfrentar os desafios postos pelo desenvolvimento da tecnologia e da computação sem esse esforço dialógico.

Clarisse Sieckenius – Sobre a reflexão ética no tocante à IA, dentro da Universidade, iniciativas ligadas ao Centro Técnico Científico, à Vice-reitoria Acadêmica e à Vice-reitoria de Extensão e Estratégia Pedagógica, ao longo de 2005, têm estimulado a conversa, a partilha de experiências e a reflexão sobre esta tecnologia, especialmente em relação ao ensino.

AsComInst. – O papa Francisco questionou "o que significa ser humano nesta época": Como essa definição impacta, hoje, o desenvolvimento técnico de códigos e sistemas na PUC-Rio?

Clarisse Sieckenius – Especificamente no que tange ao desenvolvimento técnico de códigos e sistemas na PUC, a reflexão sobre este impacto deve envolver todos aqueles que desenvolvem sistemas, desde os sistemas de administração e gestão acadêmica até os que fazem parte de atividades de pesquisa e desenvolvimento. Vê-se claramente que o escopo dessa reflexão convoca uma diversidade de atores bastante ampla da nossa comunidade acadêmica.

Edgar Lyra – A tecnologia mais contemporânea não pode ser vista como mera ferramenta, passível de ser bem ou mal controlada pelos seus usuários. Basta pensar nos aplicativos, de que hoje nos servimos cotidianamente, para perceber que se trata de algo que está em toda parte e que condiciona significativamente nossas existências. Na medida em que radicalmente nos afetam, individual e coletivamente, essas transformações nos obrigam a retomar uma antiga e essencial pergunta: “Qual deve ser nossa relação com aquilo que pode nos transformar em algo ‘transhumano’”? Clarisse Sieckenius – Acho que a resposta a esta pergunta não pode ser normativa, nem universal; me parece ser apenas a continuação de uma pergunta anterior, que pertence a cada um: “Qual a nossa relação com o ‘ser humano’ que somos”?

AsComInst. – Como a filosofia pode auxiliar a identificar e a mitigar vieses algorítmicos que possam ampliar desigualdades sociais?

Edgar Lyra – A questão dos vieses e das desigualdades sociais constitui parte importante dos desafios trazidos pelo desenvolvimento recente da computação. A filosofia tem múltiplas contribuições a dar – éticas, epistemológicas e ontológicas –, desde que em diálogo com as várias outras áreas envolvidas: sociologia, computação, direito etc. É sobretudo importante não trivializar o problema, coisa que a filosofia cuida zelosamente de evitar.

AsComInst. – Diante do alerta de ambos os papas sobre o pensamento crítico, como avaliam o risco de a IA tornar os estudantes meros consumidores de tecnologia?

Edgar Lyra – Sim, o esforço de formar indivíduos críticos e proativos, em vez de meros consumidores de novas tecnologias, é crucial na encruzilhada civilizacional da qual estamos falando. As comodidades são muitas e a pressão por produtividade é enorme, de modo que simplesmente entrar na dança se torna convidativo. Os riscos são, portanto, nada desprezíveis, restando saber como convidar os possíveis interlocutores a pensar, sóbria e alargadamente, no mundo em construção.

AsComInst. – O discurso de Leão XIV menciona que a tecnologia não deve ter um "caminho inevitável"; do ponto de vista técnico e ético, ainda é possível retomar o controle humano sobre a IA generativa?

Edgar Lyra – Se estivéssemos falando de um determinismo tecnológico, realmente não haveria nada a fazer senão torcer para que tudo dê certo. Inversamente, tomar consciência do condicionamento a que estamos efetivamente submetidos é condição sine qua non para qualquer ação consequente e responsável em face do desenvolvimento tecnológico. A meu ver, o papa acerta ao dizer, em seguida à passagem do discurso a nós dirigido a que a pergunta se refere, que "é necessária uma ação coordenada e conjunta que envolva a política, as instituições, as empresas, as finanças, a educação, a comunicação, os cidadãos e as comunidades religiosas". Em outras palavras, não basta aprovar leis e marcos regulatórios. É necessário organizar uma discussão em profundidade e construir um entendimento que dê origem a pactos amplos e a uma educação sintonizada com os presentes desafios. Penso que a Universidade tem vocação para essa organização, mas precisa se rever para cumprir o papel.

Clarisse Sieckenius – Eu acrescentaria que o desenvolvimento técnico da IA generativa está sob controle humano; o problema é que é um controle de poucos humanos que, aparentemente, têm escapado ao controle da sociedade como um todo. Como aponta Edgar, a missão que temos em mãos é devolver o controle à sociedade, para o quê as universidades têm muito a contribuir e muita responsabilidade.

AsComInst. – Quais foram os principais pontos de convergência entre a pesquisa técnica e a humanística apresentadas pela rede SACRU nesse encontro?

Edgar Lyra – A tônica do encontro foi a de que o desenvolvimento tecnológico não pode ser recusado ou demonizado, mas precisa ser acompanhado, crítica e reflexivamente, em suas promessas e perigos. Sobriedade, conhecimento de causa e transdisciplinaridade são fundamentais nesse processo.

AsComInst. – Como é possível traduzir a preocupação do papa Leão com a "capacidade de contemplação" para a grade curricular dos cursos de exatas e tecnologia?

Edgar Lyra – Currículos têm importância, mas não me parecem os elementos mais decisivos. O esforço me parece envolver demandas didáticas e culturais importantes. É todo um conjunto de hábitos acadêmicos e extra-acadêmicos que precisa ser discutido e reformulado, por exemplo, o uso de inteligência artificial na pesquisa, na construção do conhecimento e nos processos avaliativos. Todos, não só os alunos, precisam se ver concernidos com a repactuação desses hábitos. Cabe além disso a pergunta: “Como é possível incentivar a contemplação em um ambiente em que a aceleração e a produtividade imperam”? Se indagações como estas não vierem à luz, nos veremos inexoravelmente às voltas com a ironia kantiana de "consertar sombras de árvores tortas".