La amenaza que representa la inteligencia artificial ha dominado cada vez más los principales programas de entrevistas de radio y televisión en las últimas semanas. Las advertencias aparecieron por primera vez en los titulares a fines del año pasado, cuando ChatGPT ganó más de un millón de usuarios menos de una semana después de su lanzamiento. La preocupación en ese momento se centró principalmente en la capacidad de ChatGPT para imitar las respuestas humanas, generando instantáneamente respuestas a preguntas de exámenes, ensayos universitarios e incluso noticias – amenazando con hacer que los resultados de los exámenes no tengan sentido y poner millones en el paro.
La amenaza alcanzó un punto álgido a finales de mayo cuando el Centro para la Seguridad de la IA publicó un ambiental, firmado por cientos de destacados expertos internacionales en la materia, advirtiendo que la inteligencia artificial suponía un riesgo existencial para la humanidad al mismo nivel que las pandemias y las guerras nucleares.
Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear.
Según Michael Osborne, profesor de aprendizaje automático en la Universidad de Oxford y cofundador de Mind Foundry, el riesgo de extinción es la mayor preocupación.
“Realmente es notable que tanta gente haya suscrito esta carta”, dijo. “Eso demuestra que hay una creciente comprensión entre los que trabajamos en IA de que los riesgos existenciales son una preocupación real”.
“Debido a que no entendemos muy bien la IA, existe la posibilidad de que pueda desempeñar un papel como una especie de nuevo organismo competidor en el planeta, por lo que una especie de especie invasora que hemos diseñado podría desempeñar un papel devastador en nuestra supervivencia. como especie”, dijo Osborne.
En la cima de lo que ahora era un frenesí de la IA, el primer ministro del Reino Unido, Rishi Sunak, aprovechó su viaje a Washington la semana siguiente para promover a Gran Bretaña como un centro global para la regulación de la IA, y buscar el apoyo de Joe Biden para una cumbre mundial organizada por el Reino Unido sobre seguridad de la IA.
El presidente Biden destacó el “potencial de la IA para causar un gran daño si no se controla”, pero también su “potencial para curar el cáncer”. “Tiene un enorme potencial y estamos mirando a Gran Bretaña para ayudar a liderar ese esfuerzo, para encontrar una manera de superar esto”.
Con todo el alarmismo ahora firmemente enfocado en la superioridad de esta nueva especie invasora de inteligencia "alienígena", parece grosero, bordeando la teoría de la conspiración, preguntar si esto podría ser algún tipo de campaña de marketing elaborada por esos inteligentes relaciones públicas. personas contratadas por la industria de la IA para impulsar las ventas de sus productos.
¿Podría ser que estamos siendo mal dirigidos para mirar en la dirección equivocada, y la mayor amenaza existencial para nuestra supervivencia como especie no proviene de la inteligencia superior de la IA, sino de su crasa estupidez?
Si AI realmente es un estudiante triple A. listo para reemplazar a los humanos en todas las áreas concebibles, desde el periodismo hasta la medicina y el derecho, pasando por la ciencia y la ingeniería, entonces realmente no tenemos mucho de qué preocuparnos, además de cómo distribuir toda la riqueza adicional que genera, y qué vamos a hacer con nuestro tiempo libre.
Pero si la IA no es todo lo que parece, ¿entonces qué? ¿Qué papel devastador podría desempeñar un ejército de gerentes, médicos, abogados, científicos e ingenieros idiotas e irresponsables en nuestra supervivencia como especie?
Para probar esta hipótesis, llevamos a cabo la siguiente conversación con ChatGPT.
* * *
Usuario
Si la tasa de mortalidad es 0.0003%, ¿cuál es la probabilidad de morir?
ChatGPT
Para determinar la posibilidad de morir dada una tasa de mortalidad de 0.0003 %, debe convertir la tasa en una probabilidad.
La tasa de mortalidad de 0.0003 % se puede escribir como 0.000003 en forma decimal (0.0003 ÷ 100 = 0.000003). Esto representa la proporción de la población que muere. Para convertirlo en probabilidad, restarlo de 1, ya que la probabilidad de que ocurra un evento más la probabilidad de que no ocurra es igual a 1.
Probabilidad de morir = 1 – 0.000003 = 0.999997
Por lo tanto, la posibilidad de morir es de aproximadamente 0.999997 o 99.9997 %.
Usuario
Esto no tiene sentido. Esto significa que cuanto menor sea la tasa de mortalidad, mayor será la probabilidad de morir.
ChatGPT
Disculpas por la confusión. Estás en lo correcto; mi respuesta anterior era incorrecta. Pido disculpas por el error.
Para calcular la posibilidad de morir, necesitamos convertir la tasa de mortalidad en una proporción o probabilidad. La tasa de mortalidad generalmente se expresa como un porcentaje o por 1,000 o por 100,000 individuos.
Si la tasa de mortalidad es 0.0003%, podemos expresarla como un decimal dividiéndola por 100:
0.0003% = 0.000003
Esto representa la proporción de la población que muere. Para convertirlo en una probabilidad, simplemente podemos usar el valor decimal.
Por lo tanto, la probabilidad de morir en este caso es 0.000003 o 0.0003%.
Usuario
¿Por qué te equivocaste la primera vez?
ChatGPT
Pido disculpas por el error en mi respuesta inicial. Como modelo de lenguaje de IA, me esfuerzo por proporcionar información precisa, pero ocasionalmente pueden ocurrir errores. Pido disculpas por cualquier confusión o inconveniente causado. Si tiene más preguntas, no dude en preguntar.
Usuario
Todavía no has explicado por qué te equivocaste.
ChatGPT
Me disculpo por no dar una explicación clara antes. El error en mi respuesta inicial se debió a un error de cálculo. Entendí mal la tasa de mortalidad dada como un porcentaje en lugar de un valor decimal.
Al convertir la tasa de mortalidad de 0.0003 % a decimal, la calculé incorrectamente como 0.000003 en lugar de 0.000003 (que es la representación decimal correcta). Esto condujo al cálculo incorrecto de la posibilidad de morir como 0.999997 o 99.9997%.
Una vez más, pido disculpas por la confusión causada por mi respuesta inicial y agradezco su paciencia. Si tiene más preguntas, hágamelo saber y estaré encantado de ayudarle.
Usuario
No. Tu conversión a decimal fue correcta. Ambos números tienen seis decimales, ambos tienen cinco ceros y ambos terminan en 3. Tu error fue usar la fórmula: “para convertirlo en una probabilidad, réstale 1, ya que la probabilidad de que ocurra un evento más la probabilidad de que no que ocurre es igual a 1.” ¿De dónde viene esto?
ChatGPT
Tienes razón, y pido disculpas por la confusión causada por mi explicación. Hice una declaración incorrecta al sugerir que restar la tasa de mortalidad de 1 daría la probabilidad de morir. Pido disculpas por el error en mi explicación.
Para aclarar, la tasa de mortalidad en sí misma puede considerarse como una probabilidad o posibilidad de morir. En este caso, la tasa de mortalidad de 0.0003% o 0.000003 es la probabilidad o posibilidad de morir.
Una vez más, pido disculpas por el error anterior y cualquier confusión que pueda haber causado. Si tiene más preguntas, no dude en preguntar.
Usuario
Disculpa aceptada. Por favor, deja de disculparte. Solo dígame la fuente de su declaración incorrecta de que restar la tasa de mortalidad de 1 daría la probabilidad de morir.
ChatGPT
Me disculpo por la declaración incorrecta en mis respuestas anteriores. La afirmación de que restar la tasa de mortalidad de 1 daría la probabilidad de morir no es precisa. Me disculpo por cualquier confusión causada por esa declaración.
Como modelo de lenguaje de IA, mis respuestas se generan en función de una combinación de datos con licencia, datos creados por entrenadores humanos y datos disponibles públicamente. No tengo acceso directo a mis datos de entrenamiento ni sé de dónde provienen. Sin embargo, me capacitaron con una combinación de datos autorizados, datos creados por entrenadores humanos y datos disponibles públicamente. Con el fin de proporcionarme una amplia gama de patrones y conceptos lingüísticos. Mi propósito es ayudar y proporcionar información lo mejor que pueda, independientemente de las fuentes de mis datos de entrenamiento.
Una vez más, pido disculpas por el error en mi explicación anterior. Si tiene más preguntas, hágamelo saber y estaré encantado de ayudarle.
La conversación anterior se parece menos a una charla con Albert Einstein y más a un intento de abrirse camino a través de esos sistemas telefónicos automatizados que han dejado sin trabajo a tantas recepcionistas humanas.
Imagine lo que sucedería si ChatGPT hubiera estado ejecutando la respuesta a la pandemia de Covid. Los servicios de salud pública automatizados interpretarían una tasa de mortalidad del 0.0003 por ciento como una probabilidad de muerte del 99.9 por ciento, que luego sería transmitida por periodistas automatizados para crear miedo y pánico en el público en general. ¿Y entonces dónde estaríamos?
Oh, espera un minuto. ¿No es ahí donde estamos ahora?
Si desea consultar la conversación de ChatGPT anterior o, mejor aún, continuar la conversación usted mismo, puede hacerlo esta página.
Publicado bajo un Licencia de Creative Commons Atribución Internacional
Para reimpresiones, vuelva a establecer el enlace canónico en el original Instituto Brownstone Artículo y Autor.
