Para seguir asegurando nuestro futuro en la inteligencia artificial, es importante comprender sus limitaciones para poder superarlas ventajosamente.
La mayor desventaja actual de la IA: la verdad
En este momento, el talón de Aquiles de la IA es la Verdad, lo que significa que su mayor limitación es que no sabe qué es Verdadero. Estamos usando una «V» mayúscula porque hay una gran diferencia entre nombrar correctamente la capital de Australia y predecir correctamente un diagnóstico médico para un paciente.
En mayo de 2023, la Universidad de Cornell realizó un estudio para evaluar con qué precisión los modelos de lenguaje de IA respondían 817 preguntas que abarcaban salud, derecho, finanzas y política. El mejor modelo fue veraz en solo el 58% de las preguntas, en comparación con el 94% de los humanos.
Eso no significa que la IA sea «mala». Por el contrario, está haciendo exactamente lo que se supone que debe hacer: imitar los datos con los que son alimentados. En este caso, el modelo fue entrenado con datos que incluyen conceptos erróneos populares con el potencial de engañar a los humanos al ser más precisos en forma, pero no necesariamente en su fondo. Para la IA, esas respuestas eran su «verdad»
La información con la que se han entrenado los modelos de inteligencia artificial generativa, cuentan con los mismos sesgos e imprecisiones que nos hacen humanos y que parten de nuestra historia. Esto, combinado con la capacidad de alucinar o crear contenido con tal de cumplir una instrucción, intensifica sesgos y, por tanto, errores potenciales.
“El problema principal es que, si bien algunas de las respuestas que produce ChatGPT tienen una alta probabilidad de ser incorrectas, generalmente parecen buenas y las respuestas son muy fáciles de producir”.
– Stack Overflow
El contenido incorrecto o inventado, suele tomar el nombre de alucinaciones, que en parte de los casos es algo negativo, sin embargo, en aspectos de ideación y creativos ha demostrado ser una funcionalidad antes que un limitante.
Priorizar la verdad y el entrenamiento para aprovechar la IA
Enfocarnos en problemas específicos será un gran primer paso para aprovechar el potencial de la inteligencia artificial generativa. Con Pathways, Google logró una precisión que se acerca a los niveles humanos (y rápidamente) al reducir el caso de uso (a la medicina) y curar la calidad de los datos de entrenamiento. Si bien el modelo de Google era menos ambicioso que ChatGPT, está mejor adaptado para crear valor empresarial.
Las empresas deben centrarse menos en la precisión absoluta y más en cerrar la brecha de precisión entre la IA y los humanos.
Ahí es donde entra el entrenamiento: el entrenamiento produce verdad.
Usar la IA para escribir un ensayo, artículo o informe u obtener ideas para un nuevo emprendimiento, es, sin duda, un uso interesante de esta tecnología. Sin embargo, el potencial está en ganar la confianza de los usuarios con problemas complejos y de alto riesgo, y la única forma de superar estos limitantes y ganar ese nivel de confianza es a través del entrenamiento.
Hay una razón por la que la mayoría de nosotros preferimos hablar con una persona real en lugar de un robot, ya sea que estemos cancelando una suscripción o realizando un pedido a domicilio de comida en la cual requerimos personalizar el pedido.
Dos tipos de inteligencia humana:
Inteligencia fluida:
La capacidad de pensar abstractamente para resolver nuevos problemas. Implica razonamiento, identificación de patrones y resolución de problemas en situaciones novedosas donde no podemos apoyarnos en conocimientos previos. Incluye también el resolver dilemas éticos desconocidos, comprender conceptos complejos rápidamente o encontrar soluciones ingeniosas a problemas de la vida cotidiana.
Inteligencia cristalizada
La comprensión de cómo se ve «lo bueno» que viene del aprendizaje previo y las experiencias en contexto. Se refiere a los conocimientos, habilidades y experiencias que hemos acumulado a lo largo de nuestra vida. Viene tanto de aprendizajes formales e informales previos. A diferencia de la inteligencia fluida, se basa en hechos, eventos y conceptos almacenados en nuestra memoria a largo plazo.
CONOCE NUESTRO PROGRAMA DE PRODUCTIVIDAD Y PROYECTOS DE IAG EXCLUSIVO PARA EQUIPOS EMPRESARIALES
AYUDAREMOS A TU EQUIPO A INTEGRAR DE MANERA EFECTIVA LA INTELIGENCIA ARTIFICIAL GENERATIVA EN LA PLANIFICACIÓN DE TU ORGANIZACIÓN
La mayoría de los modelos de lenguaje de IA tienen una asombrosa inteligencia fluida, pero luchan con la inteligencia cristalizada.
Por ejemplo, ChatGPT puede escribir un guion sobre el fin del mundo en el estilo de Robert Zemeckis, pero no puede replicar el factor de la experiencia con la que cuentan quienes han aprendido a través de la práctica, generando éxitos y fracasos durante muchos años, conociendo e interpretando el contexto basado en evidencia e instinto entrenado.
Alcanzar el punto en el que podamos confiar en la IA (teniendo en cuenta la brecha de Verdad) para resolver problemas sustantivos requiere un modelo híbrido donde los humanos trabajen en tándem con la IA, enseñándole continuamente qué es «bueno». Eso podría significar alimentar el sistema con 20,000 horas de llamadas de servicio al cliente o agregar grandes cantidades de datos de pacientes durante años para predecir problemas de salud.
En este sentido, podemos pensar en la IA como nuestro pasante, asistente o consultor, en lugar de nuestro jefe; cuanta mayor consideración o esfuerzo requiramos, mayor orientación y nivel de detalle necesitará nuestro pasante, asistente o consultor.
Consideración como variable de impacto en proyectos de inteligencia artificial.
La consideración representa el nivel de esfuerzo que se genera al analizar alternativas disponibles para tomar una decisión. Usualmente, decisiones de alto costo o impacto, demandan mayor consideración.
La confianza se relaciona con los niveles de consideración.
Casos de uso de IA de alta consideración
Para casos de uso de consideración media a alta, se trata de aprovechar el talento humano para entrenar la IA hasta que los clientes confíen en que la herramienta los ayudará a tomar decisiones de alto riesgo. Imagina un «supervendedor bot» de Best Buy que pudiera consolidar las habilidades y conocimientos de los mejores representantes de ventas para ayudar a los clientes a elegir su televisor, computadora o sistema de sonido.
Esto se representa a continuación como un bucle de retroalimentación autosuficiente donde la confianza engendra compromiso como un ciclo virtuoso. El estilista desempeña un papel fundamental como «humano en el circuito», permitiendo el bucle central del hábito del cliente mientras también entrena el predictor de recompensas de IA. Este modelo agrega la experiencia cristalizada de los estilistas para entrenar a un «súper estilista» a través de un proceso llamado aprendizaje por refuerzo a partir de comentarios humanos (RLHF), la misma técnica detrás de ChatGPT.
Casos de uso de IA de baja consideración
Cuando se trata de casos de uso de baja consideración, sin embargo, el humano en el circuito es el cliente. El objetivo es automatizar los pasos clave en el viaje del usuario mientras se clava la distribución a dondequiera que esté la atención del usuario. Cuanto más puedas automatizar, mejor. Sin embargo, la automatización total no es necesaria; una UX inteligente recorre un largo camino.
Por ejemplo, el asistente de compras por texto de Walmart lanzó una función llamada re-pedido proactivo. Los usuarios reciben un texto con una lista de artículos que su hogar necesitaba para la semana, lo ajustan con unos pocos toques y pagan en segundos. Esto colapsa el proceso tedioso de comprar comestibles a través de un embudo de comercio electrónico en una experiencia fluida que da como resultado un algoritmo más inteligente con cada interacción.
CONOCE NUESTRO PROGRAMA DE PRODUCTIVIDAD Y PROYECTOS DE IAG EXCLUSIVO PARA EQUIPOS EMPRESARIALES
AYUDAREMOS A TU EQUIPO A INTEGRAR DE MANERA EFECTIVA LA INTELIGENCIA ARTIFICIAL GENERATIVA EN LA PLANIFICACIÓN DE TU ORGANIZACIÓN
Continúa analizando las oportunidades y modelos de gestión de iniciativas de inteligencia artificial generativa en las siguientes publicaciones:
Inteligencia Artificial y Transformación Empresarial
Superando barreras en el lanzamiento de iniciativas de inteligencia artificial generativa.
La curva de supervivencia de IA: dónde viven las oportunidades lucrativas.
¿Cómo crear productos de Inteligencia Artificial que realmente deseen nuestros clientes?
