Un informe reciente del MIT Technology Review develaba un panorama preocupante sobre el estado de Internet en 2023.
El informe hablaba de la proliferación de sitios web basura de baja calidad llenos de texto generado algorítmicamente, inundando toda la red de «contenido» que ahoga cualquier tipo de material significativo en Internet. Este es un momento significativo en la trayectoria de la historia de la tecnología.
Nuestros espacios digitales, antaño anunciados como revolucionarios, se están colapsando. Y es probable que la llegada de la IA acelere el colapso de estos espacios, si no somos capaces de comprender la magnitud de lo que está ocurriendo.
En primer lugar, es importante señalar que el actual bombo publicitario que rodea a la IA es más marketing que ciencia real, dado que la mayoría de los avances en el aprendizaje automático llevan produciéndose desde al menos el siglo XX. De hecho, sus aplicaciones ya han existido en nuestras vidas sin que la mayoría de la gente lo haya percibido nunca.
En 2023, cuando todo y cualquier cosa, desde WhatsApp a las cámaras de los smartphones pasando por Coca-Cola, se está mejorando con IA, uno no puede evitar preguntarse si este término siquiera significa ya algo. ¿Hemos pensado si alguna vez pedimos esta integración de la IA en nuestras vidas?
Las plataformas tecnológicas están repletas de funciones de IA innecesarias. Al mismo tiempo, plataformas que antes se consideraban fáciles de usar han aumentado repentinamente la frecuencia de los anuncios para frustrar al usuario y hacer que «compre una prima», y hacen otros intentos de causar molestias a los usuarios, como la reciente prohibición de Netflix de compartir contraseñas.
El experto en tecnología Cory Doctorow ha acuñado el término «enshittificación» para describir a las empresas cuyos productos empiezan siendo fáciles de usar y luego se degradan con el tiempo.
Nuestros espacios digitales, antaño anunciados como revolucionarios, se están colapsando. Y es probable que la llegada de la IA acelere el colapso de estos espacios, si no somos capaces de comprender la magnitud de lo que está ocurriendo
Los usuarios de las redes sociales son auténticas ratas de laboratorio: el psicólogo B.F. Skinner estaría orgulloso. Están constantemente a merced de un software manipulador diseñado para extraer atención y «compromiso» a cada minuto a través de notificaciones y botones «me gusta/sigue», que promueven la generación de contenidos odiosos y controvertidos en lugar de algo significativo y lleno de matices.
La mayoría de nuestros interminables feeds generados algorítmicamente son anuncios encubiertos.
La adopción generalizada del «scroll infinito» debería haber sido una señal de advertencia para todos los preocupados por los efectos nocivos de las redes sociales, e incluso su creador se arrepiente de haberlo desarrollado (un momento Oppenheimer, quizás), pero puede que sea demasiado tarde. Se ha transformado en algo mucho peor: los «vídeos cortos».
Popularizado por TikTok, y rápidamente copiado por Instagram, Facebook, YouTube y casi todas las demás aplicaciones, la única palabra para describir el formato de «vídeo corto» es vicioso. Está explícitamente diseñado para enganchar a los usuarios a un flujo de «contenido» audiovisual que nunca termina, con esa frase favorita de las empresas tecnológicas: «sugerido para ti». El «contenido» es casi siempre fragmentos de películas, música, sonido, imágenes y texto descontextualizados y aleatorios, que se consumen (y luego se olvidan) porque son «relacionables».
Aisladamente, puede que un solo clip sea divertido o bonito (o cualquiera que sea la reacción pretendida). Sin embargo, si se toma en su conjunto, el flujo interminable es informe, sin forma, pero inimaginablemente destructivo a gran escala para la capacidad de atención. Con las cosas ya en tan mal estado, es probable que la avalancha de «contenidos» creados por la IA sea catastrófica: es probable que la IA «generativa» sea «degenerativa» para la capacidad de pensamiento crítico humano.
La situación empeora cuando se observan las declaraciones y los valores de quienes están impulsando la IA en todas partes, especialmente en los campos que desean «revolucionar». El consejero delegado de OpenAI, que dio la vuelta al mundo para promocionar los productos de su empresa, ha hablado de sus esperanzas de construir una IA que sustituya al «humano medio», un término degradante que utiliza para lo que nosotros llamaríamos el «humano medio», una declaración de intenciones directa que debería hacer saltar muchas alarmas a quienes ya están preocupados por el impacto de la IA en los puestos de trabajo. En un tuit ha mencionado cómo la IA podría utilizarse para proporcionar servicios sanitarios «a quienes no pueden permitírselo», una afirmación terriblemente insensible e ignorante, teniendo en cuenta que se refiere esencialmente a proporcionar a los pobres chatbots en lugar de servicios sanitarios reales.
Una empleada de OpenAI comparó sus conversaciones «emocionales y personales» con ChatGPT con una terapia, lo que suscitó críticas generalizadas. Esta crítica es digna de mención, ya que tales pensamientos fantasiosos fueron comentados por primera vez en la década de 1960 por personas que estaban asombradas de mantener conversaciones con un primer chatbot llamado ELIZA.
Todo esto se suma a la larga lista de perjuicios documentados por estudiosos críticos de la tecnología como Kate Crawford: (i) el consumo de grandes cantidades de agua y electricidad para hacerlos funcionar, lo cual es preocupante, teniendo en cuenta la amenaza cada vez mayor del cambio climático, (ii) la escala de datos personales utilizados para la vigilancia y los costes necesarios para construir conjuntos de datos, (iii) los sesgos en los conjuntos de datos que dan resultados problemáticos, (iv) las opciones políticas inherentes a la «clasificación» y la «categorización» a la hora de crear un conjunto de datos, (v) las traumáticas experiencias de quienes trabajan de forma invisible para «limpiar» la IA de todo el contenido violento y odioso de Internet, de modo que sistemas como ChatGPT puedan parecer «amistosos», (vi) la extracción no solicitada de obras de escritores y artistas para crear conjuntos de datos sin su consentimiento.
Estos son sólo algunos ejemplos, pero está claro que en los intentos de resolver problemas sociales, la IA suele empeorar aún más las cosas. Éstas son las verdaderas amenazas, y no el miedo al «surgimiento de robots asesinos». El «surgimiento de robots asesinos» es más bien un escenario de fantasía que distrae la atención de los graves daños reales descritos anteriormente. La IA real puede verse como una entidad que probablemente amplificará los fallos existentes en la sociedad a varios niveles.
Tailandia prueba el cierre nocturno a las 4 de la madrugada para impulsar el turismo
Internet, que ya está plagado de sitios web llenos de ventanas emergentes y anuncios invasivos, está sufriendo un uso excesivo de la «optimización de motores de búsqueda». Es probable que se vuelva casi inutilizable. Mientras tanto, las plataformas de medios sociales también están experimentando un colapso debido a sus propios retos.
Se ha demostrado que los resultados de búsqueda de Google presentan respuestas incorrectas, generadas por IA, como «resultados de búsqueda», engañando potencialmente de forma peligrosa a millones de personas. Es probable que los generadores avanzados de medios de IA inunden los espacios digitales con convincentes vídeos falsos de seres humanos con rostros y voces realistas, con el potencial de hacer que, literalmente, todo en Internet deje de ser fiable a partir de cierto punto, lo que es extremadamente preocupante por el potencial impacto político en el mundo real.
El «surgimiento de robots asesinos» es más bien un escenario de fantasía que distrae la atención de los graves daños reales descritos anteriormente
Este es el estado actual de las plataformas tecnológicas, de las redes sociales y de Internet en su conjunto. Sin embargo, es importante señalar que se trata de un momento crítico. Esto nos lleva a plantearnos preguntas que deberíamos habernos hecho hace tiempo. ¿Es sostenible la trayectoria actual del desarrollo tecnológico? ¿Podemos exigir que se democratice? ¿Podemos optar por abandonar plataformas problemáticas y apoyar otras que merecen nuestra atención? ¿Podemos esforzarnos honestamente por comprender las perspectivas críticas de la tecnología y aplicarlas en la práctica?
Y lo que es más importante, ¿somos conscientes de que la IA es algo que va a tener efectos radicales en nuestros pensamientos, ideas y culturas a escala global?
Tenemos que preguntarnos cuánto tiempo vamos a seguir aceptando pasivamente todas y cada una de las novedades que nos imponen las empresas tecnológicas: ¿cuánto tiempo vamos a estar sin cuestionarlas, criticarlas o rechazarlas de plano? Tal vez la era de la IA sea un punto de inflexión: justo cuando todo parece condenado, si nos decidimos a despertar de nuestro letargo colectivo, puede que la era de la «inteligencia artificial» conduzca a una evolución de la inteligencia humana.
Artículo republicado de The Wire en el marco de un acuerdo entre ambas partes para compartir contenido. Link al artículo original:https://thewire.in/tech/why-we-need-an-anti-ai-movement-too
Doctorando en la Universidad de Derecho NALSAR de Hyderabad.
