La singularidad suave (Sam Altman)
“Ya hemos pasado el horizonte de eventos; el despegue ha comenzado. La humanidad está cerca de construir una superinteligencia digital, y al menos por ahora, es mucho menos extraña de lo que parece que debería ser.
Los robots aún no caminan por las calles, ni la mayoría de nosotros pasamos el día hablando con una IA. La gente todavía muere por enfermedades, aún no podemos ir fácilmente al espacio, y todavía hay muchas cosas del universo que no entendemos.
Y sin embargo, recientemente hemos creado sistemas que son más inteligentes que las personas en muchos sentidos, y que son capaces de amplificar significativamente la producción de quienes los usan. La parte menos probable del trabajo ya ha quedado atrás; los descubrimientos científicos que nos llevaron a sistemas como GPT-4 y o3 fueron difíciles de conseguir, pero nos llevarán muy lejos.
La IA contribuirá al mundo de muchas maneras, pero las mejoras en la calidad de vida gracias al progreso científico más rápido y a una mayor productividad serán enormes; el futuro puede ser mucho mejor que el presente. El progreso científico es el mayor impulsor del progreso en general; es emocionante pensar en cuánto más podríamos tener.
En un sentido importante, ChatGPT ya es más poderoso que cualquier humano que haya existido. Cientos de millones de personas dependen de él cada día, y para tareas cada vez más importantes; una capacidad nueva y pequeña puede tener un impacto enormemente positivo; una desalineación pequeña multiplicada por cientos de millones de personas puede causar un gran daño.
El 2025 ha traído la llegada de agentes que pueden realizar trabajo cognitivo real; escribir código nunca volverá a ser lo mismo. El 2026 probablemente verá la llegada de sistemas que pueden descubrir ideas nuevas. El 2027 quizás verá la llegada de robots capaces de realizar tareas en el mundo físico.
Muchas más personas podrán crear software y arte. Pero el mundo quiere mucho más de ambos, y los expertos probablemente seguirán siendo mucho mejores que los novatos, siempre que adopten estas nuevas herramientas. En términos generales, la capacidad de una persona para hacer mucho más en 2030 de lo que podía en 2020 será un cambio impactante, y muchas personas sabrán cómo beneficiarse de ello.
En los aspectos más importantes, los años 2030 quizá no sean tan diferentes. La gente seguirá amando a sus familias, expresando su creatividad, jugando y nadando en lagos.
Pero en otros aspectos —también muy importantes—, los años 2030 probablemente serán radicalmente distintos a cualquier época anterior. No sabemos cuán lejos podemos llegar más allá de la inteligencia humana, pero estamos a punto de descubrirlo.
En los años 2030, la inteligencia y la energía —las ideas, y la capacidad de llevarlas a cabo— se volverán extremadamente abundantes. Estas dos han sido los principales limitantes del progreso humano durante mucho tiempo; con inteligencia y energía abundantes (y una buena gobernanza), teóricamente podemos tener cualquier otra cosa.
Ya vivimos con una inteligencia digital increíble, y después de un pequeño shock inicial, la mayoría de nosotros ya estamos bastante acostumbrados. Muy rápido pasamos de asombrarnos de que la IA pueda generar un párrafo bellamente escrito a preguntarnos cuándo podrá escribir una novela entera; o de asombrarnos de que pueda hacer diagnósticos médicos que salvan vidas a preguntarnos cuándo podrá desarrollar las curas; o de que pueda crear un pequeño programa de software a cuándo podrá crear una empresa completa. Así es como funciona la singularidad: las maravillas se vuelven rutinarias, y luego, lo mínimo esperado.
Ya escuchamos de científicos que son dos o tres veces más productivos desde que usan IA. La IA avanzada es interesante por muchas razones, pero tal vez nada sea tan significativo como el hecho de que podemos usarla para hacer investigación en IA más rápido. Podríamos descubrir nuevos sustratos de computación, mejores algoritmos, y quién sabe qué más. Si podemos hacer diez años de investigación en un año, o en un mes, entonces la velocidad del progreso obviamente será muy distinta.
A partir de ahora, las herramientas que ya hemos construido nos ayudarán a encontrar nuevos descubrimientos científicos y a crear mejores sistemas de IA. Por supuesto, esto no es lo mismo que un sistema de IA actualice su propio código completamente de forma autónoma, pero no deja de ser una versión larvaria de auto-mejora recursiva.
También hay otros bucles de retroalimentación positiva en juego. La creación de valor económico ha iniciado un motor de crecimiento exponencial en la infraestructura necesaria para ejecutar estos sistemas de IA cada vez más potentes. Y robots que puedan construir otros robots (y en cierto sentido, centros de datos que puedan construir otros centros de datos) no están muy lejos.
Si tenemos que fabricar el primer millón de robots humanoides de la forma tradicional, pero luego estos pueden operar toda la cadena de suministro —extraer y refinar minerales, conducir camiones, operar fábricas, etc.— para construir más robots, que puedan construir más fábricas de chips, centros de datos, etc., entonces la tasa de progreso será obviamente diferente.
A medida que la producción de centros de datos se automatice, el costo de la inteligencia debería eventualmente converger hacia el costo de la electricidad. (Mucha gente se pregunta cuánta energía consume una consulta a ChatGPT; una consulta promedio usa unos 0.34 vatios-hora, lo que consume un horno en poco más de un segundo, o una bombilla de bajo consumo en un par de minutos. También usa alrededor de 0.000085 galones de agua; aproximadamente una quinceava parte de una cucharadita).
La velocidad del progreso tecnológico seguirá acelerándose, y seguirá siendo cierto que las personas son capaces de adaptarse a casi cualquier cosa. Habrá partes difíciles, como la desaparición de clases enteras de empleos, pero por otro lado el mundo se volverá tan rico tan rápidamente que podremos considerar seriamente nuevas ideas políticas que antes eran impensables. Probablemente no adoptemos un nuevo contrato social de golpe, pero cuando miremos atrás dentro de unas décadas, los cambios graduales habrán sido enormes.
Si la historia es una guía, encontraremos nuevas cosas que hacer y nuevos deseos, y asimilaremos nuevas herramientas rápidamente (el cambio de empleo tras la revolución industrial es un buen ejemplo reciente). Las expectativas aumentarán, pero las capacidades también, y todos obtendremos cosas mejores. Seguiremos construyendo cosas maravillosas los unos para los otros. Las personas tienen una ventaja importante y duradera sobre la IA: estamos programados para preocuparnos por otras personas y por lo que piensan y hacen, y no nos importan mucho las máquinas.
Un agricultor de subsistencia de hace mil años miraría lo que hacemos hoy y diría que tenemos trabajos falsos, y que simplemente estamos jugando a entretenernos porque ya tenemos suficiente comida y lujos inimaginables. Espero que nosotros miremos los trabajos de dentro de mil años y pensemos que son trabajos muy falsos, y no tengo dudas de que se sentirán increíblemente importantes y satisfactorios para quienes los desempeñen.
La velocidad a la que se lograrán nuevas maravillas será inmensa. Hoy es difícil imaginar lo que habremos descubierto para 2035; quizás pasemos de resolver la física de altas energías un año a comenzar la colonización espacial al siguiente; o de un gran descubrimiento en ciencia de materiales a una verdadera interfaz cerebro-computadora de alta capacidad al año siguiente. Muchas personas seguirán viviendo sus vidas de la misma manera, pero algunas probablemente decidirán “conectarse”.
Mirando hacia adelante, todo esto suena difícil de comprender. Pero probablemente vivirlo se sentirá impresionante pero manejable. Desde una perspectiva relativista, la singularidad sucede poco a poco, y la fusión ocurre lentamente. Estamos ascendiendo por el largo arco del progreso tecnológico exponencial; siempre parece una pared vertical mirando hacia el futuro y plano mirando hacia el pasado, pero es una curva continua. (Piensa en 2020, y cómo habría sonado decir que tendríamos algo cercano a una AGI en 2025, versus cómo han sido realmente los últimos 5 años).
Hay desafíos serios que enfrentar junto con los enormes beneficios. Debemos resolver los problemas de seguridad, tanto técnicos como sociales, pero después es fundamental distribuir ampliamente el acceso a la superinteligencia dado su impacto económico. El mejor camino podría ser algo así como:
1. Resolver el problema de alineación, lo que significa que podamos garantizar de forma robusta que los sistemas de IA aprendan y actúen según lo que realmente queremos colectivamente a largo plazo (los feeds de redes sociales son un ejemplo de IA desalineada; los algoritmos que los impulsan son increíblemente buenos para lograr que sigas desplazándote, y comprenden claramente tus preferencias a corto plazo, pero lo hacen explotando algo en tu cerebro que anula tus preferencias a largo plazo).
2. Luego, enfocarse en hacer que la superinteligencia sea barata, ampliamente disponible, y no demasiado concentrada en una sola persona, empresa o país. La sociedad es resiliente, creativa y se adapta rápido. Si podemos aprovechar la voluntad y sabiduría colectiva de las personas, entonces, aunque cometamos muchos errores y algunas cosas salgan muy mal, aprenderemos y nos adaptaremos rápidamente y podremos usar esta tecnología para obtener el máximo beneficio y el mínimo daño. Dar a los usuarios mucha libertad, dentro de límites amplios que la sociedad debe definir, parece muy importante. Cuanto antes pueda comenzar el mundo una conversación sobre cuáles deben ser esos límites y cómo definimos la alineación colectiva, mejor.
Nosotros (toda la industria, no solo OpenAI) estamos construyendo un cerebro para el mundo. Será extremadamente personalizado y fácil de usar para todos; estaremos limitados por las buenas ideas. Durante mucho tiempo, la gente técnica en el mundo de las startups se ha burlado de “los de las ideas”; personas que tenían una idea y buscaban un equipo para desarrollarla. Ahora me parece que están a punto de tener su momento.
OpenAI es muchas cosas ahora, pero antes que nada, somos una empresa de investigación en superinteligencia. Tenemos mucho trabajo por delante, pero la mayor parte del camino ya está iluminado, y las áreas oscuras retroceden rápidamente. Nos sentimos extraordinariamente agradecidos de poder hacer lo que hacemos.
La inteligencia demasiado barata para medir está al alcance. Puede sonar una locura decir esto, pero si en 2020 te hubiéramos dicho que estaríamos donde estamos hoy, probablemente habría sonado más loco que nuestras predicciones actuales para 2030.
Que escalemos con suavidad, exponencialmente y sin sobresaltos hacia la superinteligencia.”