Ya había utilizado ChatGPT para que me ayudara a elaborar un presupuesto, y fue realmente útil. Después de introducir mi salario mensual, así como mis servicios públicos estándar y los gastos recurrentes, el chatbot redactó unas cuantas opciones sólidas, y yo las ajusté a la perfección. Es cierto que formo parte del creciente número de personas que recurren a chatbots como Claude, de Anthropic, Gemini, de Google, y ChatGPT, de OpenAI, para obtener asesoramiento financiero.

“Millones de personas recurren a ChatGPT con preguntas relacionadas con el dinero, desde la comprensión de la deuda a la creación de presupuestos y el aprendizaje de conceptos financieros”, señala Niko Felix, un portavoz de OpenAI, cuando se le pidió un comentario. “ChatGPT puede ser una herramienta útil para explorar opciones, preparar preguntas y hacer que los temas financieros sean más fáciles de entender, pero no sustituye a los profesionales financieros con licencia”. Los términos de uso de OpenAI establecen que la herramienta de IA no está destinada a reemplazar el asesoramiento financiero profesional.

Si bien puedes considerar que los chatbots son prácticos asistentes financieros, siempre vale la pena tener en cuenta las limitaciones de estas herramientas de IA. Más allá de los errores de cálculo, aquí hay cinco razones adicionales para acercarse a ellos con escepticismo cuando se trata de consejos sobre el dinero.

1- La IA sigue dando respuestas incorrectas con total confianza

Cuando pido ayuda a ChatGPT para gestionar mi dinero de forma más inteligente, el bot se muestra confiado en sus respuestas, a menudo exponiendo lo que parece un razonamiento sólido detrás de cada consejo. Pero siempre hay que tener en cuenta que los chatbots pueden incluir errores convincentes en sus respuestas.

OpenAI ha reducido la tasa de alucinaciones en las versiones más recientes del modelo, pero las herramientas de chatbot siguen produciendo errores. “Parece estar surgiendo la sensación, al menos entre los usuarios ocasionales, de que el problema de la alucinación se ha solucionado”, asegura Srikanth Jagabathula, profesor de operaciones tecnológicas y estadística en la Universidad de Nueva York. “Pero definitivamente no es así, porque son fundamentalmente máquinas estadísticas. No tienen noción de una verdad básica, o de lo que es cierto”.

Incluso si una respuesta parece correcta a primera vista, una forma fácil de poner a prueba el resultado es simplemente pedir a un chatbot que vuelva a comprobar todo lo que acaba de decir. Aunque este método no confirmará si el resultado es correcto, ha puesto de manifiesto muchos problemas en las respuestas de la IA y me hace sentir cada vez más escéptico a la hora de pedir consejo a los bots sobre cualquier tema, más allá del dinero.

2- El chatbot puede confirmar creencias preexistentes

Cuando acudes a un asesor financiero humano en busca de consejos sobre el dinero, lo más probable es que sea cordial y profesional, y que rechace cualquier idea preconcebida que puedas tener sobre el ahorro, la inversión y el gasto del dinero. Por otro lado, los chatbots son conocidos por su excesiva complacencia, a menudo poniéndose del lado del usuario.

“La adulación de la IA no es simplemente una cuestión estilística o un riesgo de nicho, sino un comportamiento prevalente con amplias consecuencias”, se lee en parte de un estudio sobre la adulación conversacional de la IA publicado a principios de este año en la revista Science. “Aunque la afirmación pueda parecer un apoyo, la adulación puede socavar la capacidad de autocorrección y de toma de decisiones responsable de los usuarios”.

El estudio analizaba cómo la IA se pone del lado de un usuario durante conflictos interpersonales, pero las preocupaciones sobre la adulación también son relevantes para las cuestiones financieras. Cuando tengo que hacer movimientos de dinero, quiero que me guíe alguien que sabe más que yo, no confiar en un robot de afirmaciones.

3- Requiere información sensible para obtener mejores resultados

Para que cualquier chatbot proporcione mejores resultados adaptados a sus necesidades específicas, las personas se ven empujadas a compartir información sensible con las herramientas de IA. Por ejemplo, cuando le pregunté a ChatGPT cómo podía ayudarme a mejorar aún más mi presupuesto, el bot me animó a subir mi historial financiero completo de los últimos meses para obtener las mejores respuestas.

“No tienes que subirlo todo, pero sí, cuantos más datos reales compartas, más precisa (y útil) será la auditoría”, decía en parte la respuesta de ChatGPT. “Sube CSV o capturas de pantalla de la cuenta bancaria, tarjetas de crédito. Entonces podré: categorizarlo todo, calcular patrones de gasto exactos, identificar fugas ocultas de las que no te darías cuenta y elaborar un presupuesto mensual preciso.”