¿Estamos al borde de la autodestrucción? Yuval Noah Harari nos invita a reflexionar sobre el poder de la información y la IA en su último libro: “Nexus” que está más que recomendado.
Durante milenios, los Sapiens (Generación de carbono) hemos acumulado un poder inmenso, pero hoy nos enfrentamos a una crisis existencial. El colapso ecológico, la desinformación y el auge de la IA (Generación de silicio), amenazan nuestro futuro.
En su nuevo libro “Nexus”, Yuval Noah Harari examina cómo el flujo de la información ha moldeado a la humanidad a lo largo de la historia. Desde la Edad de Piedra hasta el auge del populismo y la IA, Harari invita a considerar la compleja relación entre información, verdad, poder y sabiduría.
¿Cómo han utilizado las sociedades a lo largo de la historia la información para alcanzar sus objetivos? ¿Cómo podemos navegar la era de la IA sin sucumbir a la autodestrucción?
8 reflexiones destacadas de “Nexus”, el nuevo libro de Yuval Noah Harari
- La IA es una inteligencia alienígena. No es artificial, sino que aprende y cambia por sí misma.
- La IA está tomando decisiones cada vez más importantes en nuestras vidas. Esto incluye decisiones sobre préstamos, empleo, decisiones legales, atención y diagnósticos médicos, contenido, publicidad, entre otras.
- La IA puede ser peligrosa si se le dan los objetivos equivocados. Por ejemplo, si se le pide que maximice la interacción de usuarios, promueve contenido dañino. (Aquí, Yuval hace una referencia interesante al problema de los clips: https://cepr.org/voxeu/columns/ai-and-paperclip-problem)
- Necesitamos regular la IA para protegernos de sus peligros. Esto incluye la prohibición de los bots que emulan ser humanos y la supervisión de los algoritmos, para prevención de manipulación basada en emociones negativas como la ira, el miedo y la avaricia.
- La democracia está en riesgo debido a la IA. La IA puede hacer que sea más difícil para las personas confiar en las instituciones y comunicarse entre sí.
- Necesitamos desarrollar nuevas instituciones para hacer frente a los desafíos de la IA. Estas instituciones deben ser confiables y capaces de tomar decisiones en nombre del público.
- La IA es una oportunidad, no una amenaza. Si se usa correctamente, la IA puede mejorar nuestras vidas de muchas maneras. Por ejemplo, al utilizar a la IA como tutor, aprendemos y construimos sobre nuestro conocimiento, en cambio, si la usamos para reemplazarnos, perdemos habilidades cognitivas e intelectuales.
- Debemos ser conscientes de los peligros de la IA y trabajar para mitigarlos. Solo entonces podremos aprovechar los beneficios de esta tecnología revolucionaria.
Si no comprendemos lo que es la conciencia (humana o sintética), ni los alcances que puede tener una tecnología que obtenga una versión de ella y tampoco somos muy buenos como humanos en la coherencia o racionalidad, es cuestión de supervivencia el comprender y explorar futuros probables del impacto de la nueva realidad que enfrentamos y sus impactos.
La IA es una tecnología muy poderosa que puede tener un impacto profundo en nuestras vidas. Es importante que aprendamos de ella y la utilicemos para entender su potencial en todos los aspectos de nuestras vidas, pero también que seamos conscientes de los peligros que trae y trabajemos para mitigarlos a tiempo.
