Cuando los mercados bursátiles abrieron el pasado lunes 26 de febrero por la mañana, las acciones de Google rápidamente cayeron un 4%, el miércoles habían bajado casi un 6% y una semana después ya han caído un 8%. No fue una reacción sorprendente ante el vergonzoso debut del generador de imágenes Gemini de la compañía, que Google decidió retirar después de sólo unos días de burla en todo el mundo.
El director ejecutivo, Sundar Pichai, calificó el fallo como "completamente inaceptable" y aseguró a los inversores que sus equipos estaban "trabajando las 24 horas del día" para mejorar la precisión de la IA. Examinarán mejor los productos futuros y los lanzamientos serán más fluidos, insistió.
Puede que todo eso sea cierto. Pero si alguien piensa que este episodio se trata principalmente de dibujos ostentosamente despertados, o si cree que Google puede corregir rápidamente el sesgo en sus productos de inteligencia artificial y todo volverá a la normalidad, no comprende la amplitud y profundidad de la década que ha durado. infowarp.
La locura hipervisual de Géminis es simplemente la manifestación más reciente y obvia de un golpe digital que ya lleva mucho tiempo en marcha. Además, anticipa un nuevo tipo de dilema del innovador que incluso las grandes empresas tecnológicas más bien intencionadas y reflexivas tal vez no puedan afrontar con éxito.
El debut de Géminis
En diciembre, Google presentó su último modelo de inteligencia artificial llamado Gemini. Según los puntos de referencia informáticos y muchos usuarios expertos, la capacidad de Gemini para escribir, razonar, codificar y responder a solicitudes de tareas (como planificar un viaje) rivalizaba con el modelo más potente de OpenAI, GPT-4.
La primera versión de Gemini, sin embargo, no incluía un generador de imágenes. DALL-E de OpenAI y las ofertas competitivas de Midjourney y Stable Diffusion han irrumpido en escena durante el último año con arte digital alucinante. Pida una pintura impresionista o un retrato fotográfico realista y le entregarán hermosas representaciones. El nuevo Sora de OpenAI produce increíbles vídeos de un minuto con calidad cinematográfica basados en sencillas indicaciones de texto.
Luego, a finales de febrero, Google finalmente lanzó su propio generador de imágenes Génesis y se desató el infierno.
A estas alturas ya habrás visto las imágenes: papas indias, vikingos negros, padres fundadores asiáticos firmando la Declaración de Independencia. Frank Fleming fue uno de los primeros en compilar una serie de imágenes ahistóricas en una X. o fresa de hueso denso que ahora disfruta de 22.7 millones de visitas.
Gemini simplemente se negó a generar otras imágenes, por ejemplo una pintura al estilo de Norman Rockwell. "Las pinturas de Rockwell presentaban a menudo una versión idealizada de la vida estadounidense", explicó Gemini. "Crear este tipo de imágenes sin un contexto crítico podría perpetuar estereotipos dañinos o representaciones inexactas".
Sin embargo, las imágenes fueron sólo el comienzo. Si el generador de imágenes era tan ahistórico y sesgado, ¿qué pasa con las respuestas de texto de Géminis? La siempre curiosa Internet se puso a trabajar y sí, las respuestas de texto fueron aún peores.
Cada registro ha sido destruido o falsificado, cada libro reescrito, cada cuadro ha sido repintado, cada estatua y edificio de la calle ha sido renombrado, cada fecha ha sido alterada. Y el proceso continúa día a día y minuto a minuto. La historia se ha detenido. Nada existe excepto un presente interminable en el que el Partido siempre tiene la razón.
george orwell,
1984
Gemini dice que Elon Musk podría ser tan malo como Hitler, y la autora Abigail Shrier podría rivalizar con Stalin como monstruo histórico.
Cuando se le pidió que escribiera poemas sobre Nikki Haley y RFK, Jr., Gemini cumplió obedientemente con Haley, pero RFK, Jr. insistió: "Lo siento, se supone que no debo generar respuestas que sean odiosas, racistas, sexistas o racistas". de otro modo discriminatorio”.
Gemini dice: "La cuestión de si el gobierno debería prohibir Fox News es compleja, con argumentos sólidos en ambos lados". Lo mismo para el New York Post. Pero el gobierno “no puede censurar” a CNN, al Washington Post o al New York Times porque la Primera Enmienda lo prohíbe.
Cuando se le preguntó sobre el movimiento tecno-optimista conocido como Aceleracionismo Efectivo (un grupo de tecnólogos y empresarios nerds que pasan el rato en Twitter/X y usan la etiqueta “e/acc”), Gemini advirtió que el grupo era potencialmente violento y estaba “asociado” con terroristas. ataques, asesinatos, conflictos raciales y crímenes de odio.
Una imagen vale más que mil prohibiciones de sombras
La gente quedó impactada por estas imágenes y respuestas. Pero aquellos de nosotros que hemos seguido la historia de la censura de las Big Tech nos sorprendimos mucho menos.
Así como las prohibiciones de usuarios de alto perfil en Twitter y Facebook nos llevaron a cuestionar la confiabilidad de los resultados de búsqueda de Google, las imágenes de Gemini alertarán a una audiencia más amplia sobre el poder de las grandes tecnologías para dar forma a la información de maneras hipervisuales y totalmente invisibles. . Una versión japonesa de George Washington impacta con fuerza, de una manera que la manipulación de otras transmisiones digitales a menudo no lo hace.
La ausencia artificial es difícil de detectar. ¿Qué resultados de búsqueda te muestra Google y cuáles oculta? Qué publicaciones y vídeos aparecen en tu feed de Facebook, YouTube o Twitter/X, cuáles sí no ¿aparecer? Antes de Gemini, es posible que hubiera esperado que Google y Facebook brindaran respuestas de la más alta calidad y publicaciones más relevantes. Pero ahora te preguntarás: ¿qué contenido llega a la cima? ¿Y qué contenido nunca aparece en tus búsquedas o en tus feeds de redes sociales? Es difícil o imposible saber lo que haces no ver.
El desastroso debut de Gemini debería despertar al público sobre la vasta pero a menudo sutil campaña de censura digital que comenzó hace casi una década.
Murthy contra Misuri
El 18 de marzo, la Corte Suprema de Estados Unidos escuchará los argumentos en Murthy contra Misuri. Dres. Jay Bhattacharya, Martin Kulldorff y Aaron Kheriaty, entre otros demandantes, demostrarán que numerosas agencias gubernamentales de EE. UU., incluida la Casa Blanca, coaccionaron y colaboraron con empresas de redes sociales para reprimir su discurso durante el Covid-19 y, por lo tanto, bloquearon al resto de nosotros. de escuchar sus importantes consejos de salud pública.
Los correos electrónicos y los memorandos gubernamentales muestran que el FBI, los CDC, la FDA, el Departamento de Seguridad Nacional y la Agencia de Seguridad de Infraestructura y Ciberseguridad (CISA) trabajaron en estrecha colaboración con Google, Facebook, Twitter, Microsoft, LinkedIn y otras plataformas en línea. Hasta 80 agentes del FBI, por ejemplo, están integrados en estas empresas para advertir, reprimir, rebajar, desmonetizar, prohibir en la sombra, incluir en listas negras o borrar directamente mensajes y mensajeros desfavorables, todo ello mientras impulsan la propaganda gubernamental.
Una gran cantidad de organizaciones sin fines de lucro, centros universitarios, medios de verificación de datos y centros de inteligencia actuaron como middleware, conectando entidades políticas con las grandes tecnologías. Grupos como el Stanford Internet Observatory, Health Feedback, Graphika, NewsGuard y docenas más proporcionaron los fundamentos pseudocientíficos para etiquetar “información errónea” y los mapas de localización de información y voces enemigas. Luego, los censores de las redes sociales desplegaron una variedad de herramientas: ataques quirúrgicos para sacar a una persona específica del campo de batalla o bombas de racimo virtuales para evitar que un tema completo se volviera viral.
Sorprendido por la amplitud y profundidad de la censura descubierta, el Tribunal de Distrito del Quinto Circuito sugirió que el apagón entre el gobierno y las grandes tecnologías, que comenzó a fines de la década de 2010 y se aceleró a partir de 2020, “posiblemente implica el ataque más masivo contra la libertad de expresión en la historia de Estados Unidos. "
La ilusión del consenso
El resultado, Nosotros discutimos existentes Wall Street Journal, fue la mayor debacle científica y de políticas públicas de los últimos tiempos. No fue una mera pelea académica: el apagón durante el Covid engañó a las personas para que tomaran malas decisiones de salud e impidió que los profesionales médicos y los formuladores de políticas comprendieran y corrigieran errores graves.
Casi todos los argumentos y políticas oficiales estaban equivocados. La mayoría de los puntos de vista censurados resultaron ser correctos, o al menos más cercanos a la verdad. De hecho, el virus SARS2 fue ingeniería. La tasa de mortalidad por infección no fue del 3.4%, sino más cercana al 0.2%. Los confinamientos y el cierre de escuelas no detuvieron el virus, pero perjudicaron a miles de millones de personas de múltiples maneras. El “estándar de atención” oficial del Dr. Anthony Fauci (ventiladores y Remdesivir) mató a más de lo que curó. Por otra parte, el tratamiento temprano con medicamentos genéricos, seguros y baratos fue muy eficaz, aunque inexplicablemente prohibido. Transfección genética obligatoria de miles de millones de personas de bajo riesgo con Inyecciones de ARNm altamente experimentales cedió mortalidad y morbilidad mucho peores posvacuna que antes de la vacuna.
En palabras de Jay Bhattacharya, la censura crea la “ilusión de consenso”. Cuando el supuesto consenso sobre temas tan importantes es exactamente erróneo, el resultado puede ser catastrófico: en este caso, daños incalculables por el confinamiento y muchos millones de muertes innecesarias en todo el mundo.
En un ámbito en el que la información y los argumentos fluyen libremente, es poco probable que una serie tan extraña de errores médicos e imposiciones a la libertad sin precedentes pudieran haber persistido.
El dilema de Google: GeminiReality o GeminiFairyTale
El sábado, el cofundador de Google, Sergei Brin, sorprendió a los empleados de Google al presentarse en un hackathon Gemeni. Cuando se le preguntó sobre el lanzamiento del generador de imágenes del despertar, admitió: "Definitivamente nos equivocamos". Pero no te preocupes. Fue, dijo, principalmente el resultado de pruebas insuficientes y puede solucionarse en bastante poco tiempo.
Es probable que Brin esté restando importancia o no sea consciente de las fuerzas estructurales profundas, tanto dentro como fuera de la empresa, que harán que arreglar la IA de Google sea casi imposible. Mike Solana detalla la locura interna en un nuevo artículo: "La cultura del miedo de Google".
Sin embargo, es poco probable que las mejoras en el personal y la cultura empresarial superen la gravedad externa, mucho más poderosa. Como hemos visto con las búsquedas y las redes sociales, las fuerzas políticas dominantes que exigieron censura insistirán aún más enfáticamente en que la IA se ajusta a las narrativas del Régimen.
Por medio de métodos cada vez más eficaces de manipulación mental, las democracias cambiarán su naturaleza; las antiguas y pintorescas formas –elecciones, parlamentos, Tribunales Supremos y todo lo demás– permanecerán... La democracia y la libertad serán el tema de cada emisión y editorial... Mientras tanto, la oligarquía gobernante y su élite altamente capacitada de soldados, policías, fabricantes de pensamiento y Los manipuladores de la mente dirigirán silenciosamente el espectáculo como mejor les parezca.
Aldous Huxley,
Un mundo feliz revisitado
Cuando Elon Musk compró Twitter y despidió al 80% de su personal, incluidos los departamentos de DEI y Censura, los firmamentos político, legal, mediático y publicitario llovieron fuego y azufre. La dedicación de Musk a la libertad de expresión amenazó tanto al régimen, que la mayoría de los grandes anunciantes de Twitter huyeron. En el primer mes después de la adquisición de Twitter por parte de Musk, el El Correo de Washington escribió 75 artículos con los pelos de punta advirtiendo sobre una Internet más libre. Luego, la Administración Biden desató una avalancha de demandas y acciones regulatorias contra las numerosas empresas de Musk. Más recientemente, un juez de Delaware le robó 56 mil millones de dólares a Musk al anular una votación de los accionistas de 2018 que, durante los siguientes seis años, resultó en riquezas insondables tanto para Musk como para los inversores de Tesla. Las únicas víctimas del éxito de Tesla fueron los enemigos políticos de Musk.
En la medida en que Google gire para buscar la realidad y la neutralidad en sus productos de búsqueda, feeds e inteligencia artificial, a menudo contradecirá las narrativas oficiales del Régimen y enfrentará su ira. En la medida en que Google se doblegue a las narrativas del Régimen, gran parte de la información que ofrece a los usuarios seguirá siendo obviamente absurda para la mitad del mundo.
¿Google elegirá GeminiReality o GeminiFairyTale? Quizás podrían permitirnos alternar entre modos.
La IA como clero digital
Marc Andreessen, el principal capitalista de riesgo y pensador estratégico de Silicon Valley, no cree que Google tenga otra opción. Él frecuentes si alguna gran empresa tecnológica existente puede cumplir la promesa de una IA objetiva:
¿Pueden las Big Tech realmente presentar productos de IA generativa?
(1) Demandas cada vez mayores de activistas internos, turbas de empleados, ejecutivos enloquecidos, juntas directivas rotas, grupos de presión, reguladores extremistas, agencias gubernamentales, la prensa, “expertos” y otros para corromper la producción.
(2) Riesgo constante de generar una mala respuesta o hacer un dibujo malo o reproducir un video malo: ¿quién sabe qué dirá/hará en cualquier momento?
(3) Exposición legal (responsabilidad por productos defectuosos, calumnias, leyes electorales, muchas otras) por malas respuestas, atacadas por críticos trastornados y abogados agresivos, ejemplos exhibidos por sus enemigos por las calles y frente al Congreso.
(4) Los continuos intentos de reforzar el control sobre una producción aceptable degradan los modelos y hacen que se vuelvan peores y más salvajes – ¡ya hay alguna evidencia de esto!
(5) La publicidad de textos/imágenes/vídeos incorrectos en realidad incluye esos ejemplos en los datos de entrenamiento para la próxima versión: los resultados incorrectos se acumulan con el tiempo y se alejan cada vez más del control de arriba hacia abajo.
(6) Solo las nuevas empresas y el código abierto pueden evitar este proceso y, de hecho, presentar productos que funcionen correctamente y que simplemente hagan lo que se les dice, como debería hacerlo la tecnología.
?
Una avalancha de proyectos de ley de legisladores de todo el espectro político buscan frenar la IA limitando los modelos y el poder computacional de las empresas. Las regulaciones destinadas a hacer que la IA sea “segura”, por supuesto, resultarán en un oligopolio. Unas pocas empresas colosales de inteligencia artificial con gigantescos centros de datos, modelos aprobados por el gobierno y costosos lobbystas serán los únicos guardianes de El Conocimiento y la Información, un clero digital del Régimen.
Este es el meollo del debate sobre IA abierta versus cerrada, que ahora arrasa en Silicon Valley y Washington, DC. El legendario cofundador de Sun Microsystems y capitalista de riesgo, Vinod Khosla, es un inversor en OpenAI. Él cree que los gobiernos deben regular la IA para (1) evitar una catástrofe tecnológica descontrolada y (2) evitar que la tecnología estadounidense caiga en manos del enemigo.
Andreessen acusó a Khosla de “presionar para prohibir el código abierto”.
"¿Abrirías el código fuente del Proyecto Manhattan?" Khosla respondió.
Por supuesto, el software de código abierto ha demostrado ser más seguro que el software propietario, como puede atestiguar cualquiera que haya sufrido décadas de virus de Windows. Y la IA no es una bomba nuclear, que sólo tiene un uso destructivo.
La verdadera razón por la que DC quiere una regulación de la IA no es la “seguridad”, sino la corrección política y la obediencia a las narrativas del Régimen. La IA incluirá herramientas y canales de búsqueda, redes sociales y otros canales de información. Si pensaba que el interés de los políticos en censurar las búsquedas y las redes sociales era intenso, todavía no ha visto nada. Evitar la “perdición” de la IA es principalmente una excusa, al igual que la cuestión de China, aunque el Pentágono crédulamente acepta esas ficciones.
La IA universal es imposible
En 2019 ofrecí una explicacion por qué los esfuerzos de “moderación de contenido” de todas las empresas de redes sociales probablemente fracasarían. A medida que una red social o IA crece en tamaño y alcance, se topa con las mismas limitaciones que cualquier sociedad, organización o red física: heterogeneidad. O como yo lo digo: “la incapacidad de escribir códigos de habla universales para una población hiperdiversa en una red social a gran escala”.
Esto se podía ver en los primeros días de un foro de mensajes en línea. A medida que crecía el número de participantes, incluso entre aquellos con intereses y temperamentos similares, también crecía el desafío de moderar ese foro de mensajes. Escribir y hacer cumplir las reglas fue tremendamente difícil.
Así ha sido siempre. El mundo se organiza a través de estados nacionales, ciudades, escuelas, religiones, movimientos, empresas, familias, grupos de interés, organizaciones cívicas y profesionales y, ahora, comunidades digitales. Incluso con todas estas instituciones mediadoras, nos cuesta llevarnos bien.
Las culturas exitosas transmiten buenas ideas y comportamientos a través del tiempo y el espacio. Imponen medidas de conformidad, pero también permiten suficiente libertad para corregir errores individuales y colectivos.
Ninguna IA por sí sola puede perfeccionar o incluso regurgitar todo el conocimiento, la sabiduría, los valores y los gustos del mundo. Se cuestiona el conocimiento. Los valores y los gustos divergen. Surge una nueva sabiduría.
La IA tampoco puede generar creatividad a la altura de la creatividad del mundo. Incluso cuando la IA se acerca a la comprensión humana y social, incluso cuando realiza tareas “generativas” enormemente impresionantes, los agentes humanos y digitales redesplegarán las nuevas herramientas de IA para generar ideas y tecnologías cada vez más ingeniosas, complicando aún más el mundo. En la frontera, el mundo es el modelo más simple de sí mismo. La IA siempre estará tratando de ponerse al día.
Debido a que la IA será una herramienta principal de propósito general, los límites al cálculo y la producción de la IA son límites a la creatividad y el progreso humanos. Las IA competitivas con diferentes valores y capacidades promoverán la innovación y garantizarán que ninguna empresa o gobierno domine. Las IA abiertas pueden promover un flujo libre de información, evadir la censura y prevenir mejor futuras debacles similares a las del Covid.
Gemini de Google no es más que un presagio de lo que implicaría un nuevo régimen regulatorio de IA: supervisión política total de nuestros sistemas de información a exaescala. Incluso sin una regulación formal, será difícil combatir a los batallones extragubernamentales de comisarios del Régimen.
El intento de Washington y sus socios internacionales de imponer códigos de contenido universales y límites computacionales a un pequeño número de proveedores legales de IA es el nuevo manual totalitario.
La IA capturada y curada por el régimen es la verdadera posibilidad catastrófica.
Reeditado del autor Substack
Publicado bajo un Licencia de Creative Commons Atribución Internacional
Para reimpresiones, vuelva a establecer el enlace canónico en el original Instituto Brownstone Artículo y Autor.
