La Comisión de Valores y Bolsa de Estados Unidos (SEC, por sus siglas en inglés) ha expresado su preocupación sobre el impacto de la inteligencia artificial generativa en los mercados financieros.
En un discurso presentado en el National Press Club el lunes, el presidente de la SEC, Gary Gensler, dijo que los avances recientes en la inteligencia artificial generativa aumentan la posibilidad de que las instituciones se basen en el mismo subconjunto de información para tomar decisiones.
Gensler señaló que la gran demanda de datos y capacidad de computación podría hacer que solo algunas plataformas tecnológicas dominen el campo, limitando los modelos de IA que las empresas pueden utilizar. Si un modelo proporciona información inexacta o irrelevante, las instituciones financieras podrían terminar utilizando los mismos datos defectuosos y tomando las mismas decisiones erróneas, creando el riesgo de algo similar a la crisis financiera de 2008, donde los bancos siguieron al líder basándose en información de calificadoras de crédito, o la carrera impulsada por Twitter en Silicon Valley Bank. Gensler comparó las posibles consecuencias con algo similar a la crisis de 2008, que según él demostró los riesgos de un "conjunto de datos o modelo centralizado" en las finanzas.
"La IA puede aumentar la fragilidad financiera al promover el rebaño, con actores individuales tomando decisiones similares porque reciben la misma señal de un modelo base o un agregador de datos", dijo Gensler. También agregó que el aumento de la IA generativa y otros modelos de aprendizaje profundo "podría exacerbar la inherente interconexión en red del sistema financiero global".
El sector financiero ha estado utilizando sistemas de IA durante mucho tiempo. Algunas compañías de seguros y acreedores implementan algoritmos y procesamiento de lenguaje natural para analizar datos financieros antes de decidir las cantidades de préstamos. Las firmas comerciales han confiado en la IA para detectar fraudes y señales de mercado mucho más rápido que los humanos que miran una pantalla de computadora.
Aquí, Gensler se enfocó en modelos de lenguaje grandes, llamando a la IA generativa y a los LLM (Large Language Models) "la tecnología más transformadora de nuestro tiempo". Aunque en su discurso a veces confundió esto con la categoría más general de tecnología de IA, estos sistemas no presentan todos los mismos riesgos y preguntas. Gensler también señaló que la IA generativa aún no se utiliza ampliamente en las finanzas.
No es la primera vez que Gensler advierte sobre el impacto de la IA en los mercados financieros. Mientras aún estaba en MIT, Gensler y la coautora Lily Bailey escribieron un artículo explorando cómo las estructuras regulatorias actuales no pueden abordar los problemas derivados del uso de IA en las finanzas.
Tampoco es un tema nuevo la regulación de la IA para la SEC. La agencia estableció FinHub, un centro de recursos creado para responder preguntas sobre IA, criptomonedas y otros temas relacionados con la tecnología financiera, en 2018. Se ha dedicado activamente a perseguir casos contra empresas en tecnología emergente que considera que han violado la ley, especialmente en el espacio criptográfico.
La propia SEC también utiliza el aprendizaje automático para ayudar en la vigilancia del mercado para hacer cumplir sus políticas.
Gensler dijo que las pautas actuales sobre la gestión de riesgos deben actualizarse para mantenerse al día con la tecnología nueva y poderosa, pero también señaló que puede ser necesario repensar en toda la industria financiera cómo utilizarla.
Por supuesto, otras agencias gubernamentales también han comenzado a investigar empresas de IA. La FTC anunció la semana pasada que abrió una investigación contra OpenAI.
