La proliferación de herramientas de IA ya ha empezado a afectar al modo en que la población india percibe la realidad.
Por ejemplo, se editó una foto de los luchadores indios detenidos Vinesh y Sangeeta Phogat para que pareciera que sonreían bajo custodia policial. Aunque no es la primera vez que se manipula a la gente con imágenes editadas, la diferencia percibida entre lo que es una imagen real y lo que está editado o simulado se está difuminando con las nuevas herramientas de IA.
Durante décadas, conceptos como «posthumanos» y realidad virtual han llevado a las comunidades de ciencia ficción a imaginar mundos simulados y a los filósofos a proponer que vivimos dentro de una simulación.
Estos debates han llegado a la cultura pop con películas como Star Trek y Matrix, donde las cuestiones sobre la realidad han calado en las masas. Aunque puedan parecer una tontería, con un seguimiento de culto entre un sector de comunidades mal informadas que adoran estas ideas sin un debate racional, existe la necesidad de este debate para entender las sociedades cibernéticas tecnológicamente avanzadas.
Los debates en torno a la realidad ya no son escenarios hipotéticos. Ahora, muchos de nosotros somos incapaces de percibir lo que es real y lo que es simulado por la IA. La obra Simulacro y simulación del sociólogo y filósofo francés Jean Baudrillard ofrece una perspectiva posmodernista de este debate.
El trabajo de Baudrillard sobre nuestra cultura mediática electrónica, que se remonta a la década de 1980, nos proporciona una teoría sociológica para comprender estos efectos de los medios electrónicos. Señala la diferencia entre pretensión y simulación. En el caso de la simulación, la diferencia es que la realidad no cambia. Pero en el caso de la simulación, tiene mucho más que ver con lo verdadero, lo falso, lo real y lo imaginario.
Lo que ocurrió con los luchadores indios fue un hecho real al ser detenidos durante un acto de protesta. Pero en la mente de los seguidores y activistas del BJP existe una versión imaginaria de la realidad en la que los luchadores se alegran de haber sido detenidos, o de haber logrado un objetivo imaginario de difamar al gobierno. Baudrillard teoriza que «lo real puede producirse a partir de células miniaturizadas, matrices y bancos de memoria, modelos de control, y puede reproducirse un número indefinido de veces a partir de ellos».
En este caso, los modelos de IA están produciendo una realidad imaginaria que es verdadera para los millones de consumidores de la imagen simulada de la célula informática BJP.
La célula informática del BJP ha perfeccionado el arte de crear realidades imaginarias, en las que la distorsión de la realidad se distribuye a millones de personas a través de las redes de medios electrónicos. Su capacidad para distorsionar y promover nuevas realidades se amplió con las redes monopolísticas de Facebook y WhatsApp.
Durante décadas, conceptos como «posthumanos» y realidad virtual han llevado a las comunidades de ciencia ficción a imaginar mundos simulados y a los filósofos a proponer que vivimos dentro de una simulación.
Ahora, la IA alimenta esta capacidad y hace que nos resulte aún más difícil diferenciar entre lo real y lo imaginario. La proliferación y la escala de estas narrativas imaginarias no van a hacer más que aumentar a partir de ahora, a medida que las herramientas de IA sean mejores y más accesibles.
https://hosting56220us-96570.webempresa.site/negocios/energia/2023/06/08/importaciones-india-petroleo-ruso-alcanzaron-nuevo-maximo-mayo/
Más allá de la idea de ser verdadero o falso, la gente cree en las simulaciones realizadas por la célula informática del BJP, lo que les lleva a distorsionar aún más la realidad.
Con el reciente accidente de tren de Odisha, muchos han empezado a promover versiones alternativas del accidente del que son responsables los musulmanes, Pakistán y la oposición. No todas estas versiones proceden de la célula informática, sino de personas normales a las que ya se está incitando a actuar de este modo.
El uso de herramientas de IA para distorsionar la realidad sólo va a aumentar en los próximos meses, ya que muchos estados de la India celebran elecciones a la asamblea. El aumento de la proliferación de estos contenidos manipulados será difícil de detectar para los verificadores de hechos y la población normal, y afectará a la forma en que percibimos la realidad. Varios medios de comunicación en Internet promovidos por partidos políticos utilizan ahora grandes herramientas de IA basadas en modelos lingüísticos para automatizar también alguna versión de sus noticias.
Su capacidad para distorsionar y promover nuevas realidades se amplió con las redes monopolísticas de Facebook y WhatsApp
El resultado de que estas herramientas se utilicen sin ninguna regulación a la vista es que la capacidad de la sociedad para ver la realidad se verá obstaculizada. En palabras del diputado de Hyderabad Asaduddin Owaisi, se están «pirateando mentes», y estas mentes «simuladas» son peligrosas tanto para sí mismas como para la sociedad.
En Matrix, las personas que viven dentro de la simulación tampoco son del todo inocentes, ya que tienen la capacidad de transformarse repentinamente en agentes que no permiten a los demás ver la realidad.
Artículo republicado de The Wire en el marco de un acuerdo entre ambas partes para compartir contenido. Link al artículo original: https://thewire.in/tech/terminal-ai-tools-simulation-bjp-it-cell
Es investigador sobre digitalización y hacktivista.
