En un país como India, donde múltiples capas de desigualdad y vulnerabilidad social ya determinan el acceso a la financiación, las decisiones impulsadas por IA podrían exacerbar la exclusión.
En 1996, el mundo conoció a la oveja Dolly, el primer mamífero clonado a partir de una célula somática adulta, una hazaña considerada un hito en la ciencia genética. Tan pronto como estallaron las celebraciones, también lo hicieron los debates éticos. La preocupación por la identidad, la dignidad humana y la experimentación descontrolada dieron lugar a rápidos llamados a la regulación y prohibición de la clonación humana en muchos países.
Nos enfrentamos a un punto de inflexión ético similar en la era digital, no con el ADN, sino con los datos. El auge de la Inteligencia Artificial, en particular la IA generativa, nos conduce a una era en la que se crean, implementan y amplían sin restricciones clones digitales de la cognición, la emoción y la creatividad humanas.
Como sucedió con Dolly, la euforia del triunfo tecnológico choca ahora con profundas preocupaciones sociales, éticas y filosóficas. La clonación, en esencia, es replicación. Dolly representó la replicación biológica de la vida. La IA actual representa la replicación cognitiva de facultades humanas como el pensamiento, la creación, la resolución de problemas e incluso la empatía.
Los modelos de IA ahora pueden escribir poesía, diagnosticar enfermedades, predecir tendencias del mercado e incluso simular la personalidad de personas fallecidas mediante la «resurrección digital». Ya no es ciencia ficción.
Al igual que la clonación alertó sobre la mercantilización de la vida, la IA está generando preocupación por la mercantilización de la conciencia. ¿Estamos simplemente enseñando a las máquinas a pensar como nosotros o estamos reemplazando paulatinamente nuestra necesidad de pensar?
Tras la clonación de Dolly, bioeticistas como Leon Kass y Daniel Callahan advirtieron que los avances biotecnológicos podrían conducir a una situación peligrosa, donde la vida se percibe cada vez más como algo que debe ser diseñado, optimizado y comercializado. Hoy en día, los especialistas en ética de la IA se hacen eco de advertencias similares, advirtiendo contra la reducción de la identidad y el valor humanos a funciones algorítmicas y patrones de datos.
Stuart Russell, destacado investigador en IA, ha advertido reiteradamente sobre los riesgos de desarrollar inteligencia artificial general (IAG) sin garantizar una adecuada alineación de valores, lo que significa que los sistemas de IA deben operar de acuerdo con los objetivos y valores humanos. Russell subraya que «aún no sabemos cómo controlar máquinas más inteligentes que nosotros» y considera esta incertidumbre profundamente peligrosa.
Después de Dolly, la idea de clonar humanos fue prácticamente universalmente prohibida, no solo porque no podíamos hacerlo de forma segura, sino porque no debíamos hacerlo. Ese consenso se basó en un profundo respeto por la singularidad de la vida humana. Nos enfrentamos a un imperativo moral similar con la IA: reconocer que el pensamiento, la emoción y la creatividad humanos no deben reducirse a meros datos de entrada en un modelo.
En la era posterior a Dolly, muchos países impusieron límites estrictos a la investigación sobre clonación. Pero con la IA, la carrera está prácticamente desregulada. Las empresas tecnológicas recopilan contenido y comportamiento humano a una escala sin precedentes, recopilando texto, voz, imágenes y datos biométricos, y los incorporan a sistemas que crean resultados de apariencia humana.
Imaginen si los materiales biológicos utilizados para clonar a Dolly se extrajeran de millones de ovejas sin su consentimiento. Eso se consideraría una violación de los derechos naturales. Sin embargo, los sistemas de IA actuales se entrenan con libros protegidos por derechos de autor, conversaciones privadas, historiales médicos y obras creativas, a menudo sin permiso ni compensación. Los datos son el nuevo ADN, y estamos presenciando su extracción y replicación sin ningún marco de dignidad ni justicia.
Después de Dolly, nos preguntamos: «¿Qué significa ser humano?». Esta pregunta vuelve a ser urgente. La IA es muy prometedora, pero, al igual que la clonación, su uso descontrolado corre el riesgo de deshumanizarla. Ya estamos viendo cómo el arte generado por IA reemplaza a los artistas, las noticias escritas por IA a los periodistas y la atención al cliente con IA a la interacción humana.
IA y banca
El sector financiero ofrece una perspectiva especialmente aguda para examinar estos riesgos. Existe un creciente interés en la aplicabilidad de la IA a la banca, no solo como chatbots para consultas rutinarias, sino también para definir los criterios de préstamo, la calificación crediticia y las decisiones de cartera. Sin embargo, los líderes del sector han advertido contra su uso.
El director ejecutivo de OpenAI, Sam Altman, al dirigirse a los reguladores financieros el mes pasado, advirtió sobre una inminente crisis de fraude que lo aterroriza. No es el único; en una encuesta realizada a principios de este año, el 80 % de los responsables de ciberseguridad bancaria admitieron temer que la IA esté armando a los estafadores más rápido de lo que los bancos pueden responder.
El Banco de la Reserva de la India presentó recientemente su «Marco para la Habilitación Responsable y Ética de la Inteligencia Artificial» (FREE-AI). Lamentablemente, este marco refleja un enfoque verticalista, sin una consulta significativa sobre salvaguardias efectivas.
Los «Siete Sutras» del RBI para la adopción de la IA (Confianza, Prioridad a las Personas, Equidad, Responsabilidad, Comprensibilidad, Seguridad e Innovación) son en principio loables. Sin embargo, a menos que estos principios se traduzcan en derechos exigibles para los clientes y protecciones vinculantes para los trabajadores, la implementación de la IA corre el riesgo de amplificar las vulnerabilidades en lugar de reducirlas.
En una declaración reciente, la Confederación de Funcionarios Bancarios de toda la India advirtió que, sin un derecho garantizado a la revisión humana, en particular en decisiones que afectan a las MIPYMES, los prestatarios minoristas y los agricultores, la IA podría profundizar las desigualdades sociales existentes.
En un país como India, donde múltiples capas de desigualdad y vulnerabilidad social ya condicionan el acceso a la financiación, las decisiones basadas en IA podrían exacerbar la exclusión si no se controlan. Los riesgos no son solo técnicos, como las filtraciones de datos al compartir carteras de préstamos sensibles con sistemas de IA, sino también éticos, donde conjuntos de datos corruptos o sesgos algorítmicos ocultos producen resultados discriminatorios.
Sin fuertes barreras de protección, los bancos podrían escudarse en la “mano invisible” de la IA para justificar prácticas crediticias que ignoran la equidad o la responsabilidad social, trasladando la culpa a las máquinas y profundizando las desigualdades estructurales.
Dolly nos enseñó que la vida no se puede replicar a la ligera. El debate sobre la clonación nos obligó a afrontar profundas cuestiones sobre la ética, la identidad y la dignidad humana. Ahora debemos asumir esa misma seriedad con la IA.
Si no prestamos atención a las lecciones de Dolly, podríamos encontrarnos no solo creando clones digitales, sino también renunciando a nuestra propia singularidad en el proceso. No esperemos el momento irreversible para plantearnos estas preguntas cruciales. El futuro no solo debe ser inteligente, sino también sabio.
Nota: esta es un artículo republicado del medio «The Wire» a través de un acuerdo de cooperación entre ambas partes para la difusión de contenido periodístico. Link original.
Rupam Roy es el Secretario General de la Confederación de Oficiales Bancarios de toda la India.
