La IA está por todas partes. Se está incorporando a todo. Nos dicen que eso es simplemente progreso. Y, por lo tanto, debemos aceptarla, no sea que parezcamos luditas y dejemos que China gane (sea lo que sea que eso signifique). Sin embargo, al mismo tiempo, mucha gente también tiene miedo a la IA. Mucho miedo. Y a veces, nos dicen que nosotros también deberíamos tener miedo. No obstante, en el discurso público sobre la IA, a menudo falta claridad sobre a qué se supone que debemos temer específicamente. A veces ni siquiera está claro qué se entiende por el término "IA".
Técnicamente hablando, como tengo tocado Anteriormente, se podía argumentar (como hacen algunos informáticos veteranos) que la IA es un término general que engloba una familia de algoritmos basados en las matemáticas que, en ocasiones, se remontan a más de medio siglo atrás.
En la práctica, numerosos programas con los que llevamos años conviviendo, como Google Maps y el sistema de recomendaciones de Amazon, pueden considerarse inteligencia artificial a pesar de su falta de novedad. Sin embargo, en el discurso público, el término IA suele referirse a la IA generativa (por ejemplo, ChatGPT), así como a un sinfín de hipotéticos programas futuros que harán todo lo que los humanos pueden hacer, pero mejor, y que, por lo tanto, resolverán todos nuestros problemas, pero también dejarán a la mayoría sin trabajo, e incluso podrían llegar a convertirse en una especie de Skynet, a menos que decidan que no merecemos la pena.
(Suena bastante sexy. Quizás alguien debería hacer una serie de películas sobre ello. Tal vez a la gente incluso le gusten dos de cada cinco).
Lamentablemente, estas representaciones más hiperbólicas y de ciencia ficción de las amenazas que plantea la IA tienden a recibir más atención que las amenazas más realistas e inminentes relacionadas con la privacidad, la libertad, la autonomía e incluso con el estilo de vida que muchos de nosotros hemos llegado a disfrutar, y, en consecuencia, desvían la atención de ellas. Automático licencia placa lectores, reconocimiento facial, abuelas digitales, conducción obligatoria bajo los efectos del alcohol y conducción distraída programas de detección, cualquiera de las tecnologías de las que el “nieto” estaba hablando a gritos en “Robot de reparto autónomo", Y dispositivos de grabación portátiles Los programas que transcriben y procesan conversaciones presenciales para personas antisociales y fácilmente distraídas son solo algunas de las amenazas más realistas que se me ocurren. (Y esta lista no es exhaustiva).
Por lo tanto, tiendo a apreciar cuando los miembros de nuestra clase dirigente pueden tomarse una mañana para tener una conversación mesurada sobre las amenazas bastante bien definidas que plantea esta tecnología (o conjunto de tecnologías), como se hizo en la reunión del 4 de junio del Subcomité de Ciberseguridad y Protección de Infraestructura de la Cámara de Representantes de los Estados Unidos. reunión sobre el “Panorama de la seguridad en la IA”.
Superficialmente, el debate de la reunión podría plantearse en términos de "¿La mayor amenaza que plantea la IA es externa, en forma de piratas informáticos extranjeros que buscan explotar vulnerabilidades en el software que controla la infraestructura crítica de Estados Unidos, o interna, derivada de la falta de regulación y rendición de cuentas sobre el uso de la IA en el país?".
Sin embargo, al observar la discusión, parecía menos una cuestión de “o esto o aquello” y más una respuesta unánime de “Sí, y además…”.
Sandra Joyce de Google, el director ejecutivo del Frontier Model Forum, Chris Meserole, y el director ejecutivo y cofundador de Corridor Security Inc., Jack Cable, ofrecieron testimonios sobre cómo la IA está transformando el panorama de la ciberseguridad a medida que las armas digitales caen en manos de los ciberdelincuentes que las utilizarán para encontrar vulnerabilidades en nuestra infraestructura crítica o para lanzar ataques de ransomware.
“Esta tecnología ha tenido un profundo impacto en la ciberseguridad, tanto para el defensor como para el atacante”, afirmó Joyce.
“Los hackers cuentan con herramientas más potentes que nunca”, señaló Cable, mencionando específicamente a Mythos y GPT-5.5.
“Estos modelos no son solo publicidad engañosa”, advirtió. “Realmente están empezando a rivalizar o incluso superar a los humanos en tareas de seguridad, y lo hacen a una escala sin precedentes”.
Joyce sugirió que los "actores maliciosos" ni siquiera necesitan algo como Mythos y que pueden causar mucho daño con un programa más antiguo.
Haciendo hincapié en las amenazas internas, Matthew Guariglia, analista sénior de políticas de la Electronic Frontier Foundation, declaró: «La cuestión no es cómo controlar la IA, sino cómo controlar a las agencias que pretenden desatar la IA sobre el público estadounidense».
En su testimonio, Guariglia destacó cómo el aparato de seguridad nacional de Estados Unidos ya utiliza diversas herramientas que recopilan datos sobre personas sin causa probable y que pueden hacer "inferencias sobre la política, la vida personal, la religión y la geolocalización de una persona, a veces de forma inexacta y con graves consecuencias".
Además, Guariglia afirmó: "La IA también tiene un historial de errores, desde citas falsas en informes legales hasta un grave error de IA que envió a reclutas del DHS al campo sin la capacitación adecuada".
“Probablemente existan otros ejemplos más importantes que desconocemos debido a la clasificación, lo que impediría una contabilidad más exhaustiva”, añadió.
De manera similar, la representante Delia Ramirez (demócrata por Illinois) observó: "Estamos viendo cómo los sistemas de monitoreo impulsados por IA se extienden a las escuelas, a las viviendas públicas y a los hospitales sin ninguna transparencia sobre cómo funcionan, sin posibilidad de cuestionarlos y sin ningún recurso cuando se equivocan".
En un intercambio posterior sobre un posible escenario en el que un programa de IA designa el suministro de agua de una ciudad como comprometido cuando en realidad está en buen estado y, posteriormente, restringe la capacidad de los residentes de la ciudad para acceder al agua, Guariglia y Ramirez sugirieron que, dentro de los límites de la legislación estadounidense actual, la transparencia sobre cómo se produjo el problema probablemente quedaría a discreción de la ciudad que implementa el sistema, mientras que la cuestión de quién puede ser considerado responsable es bastante nebulosa.
Aunque no sea tan emocionante como luchar contra los T-800 en las calles por nuestras vidas y nuestro sustento, más ataques de ransomware, una mayor erosión de nuestra privacidad y la falta de transparencia y rendición de cuentas necesarias cuando HAL comete un error y corta el agua a todos suenan bastante serios, incluso si estas cosas no justifican una histeria colectiva o una franquicia cinematográfica. Quizás incluso sean suficientes para generar preocupaciones razonables sobre la situación actual. Zeitgeist incorporar la IA en todo. Y tal vez, solo tal vez, nos den motivos para reconsiderar nuestra decisión de conectar todo en la vida moderna a internet.
Unirse a la conversación:
Publicado bajo un Licencia de Creative Commons Atribución Internacional
Para reimpresiones, vuelva a establecer el enlace canónico en el original Instituto Brownstone Artículo y Autor.
