Sec News Presidente de la SEC resalta riesgos de la IA en los mercados

Gary Gensler es un hombre conocido en el mundo de las criptomonedas. Desde su llegada a la presidencia de la Comisión de Valores de EEUU (SEC), ha emprendido una campaña por regular a esta industria. Pero tras dos años de lucha sin cuartel, ahora la Comisión tiene un nuevo objetivo: la inteligencia artificial (IA).

Si bien el tema de la IA es algo que ha sido tocado por varios gobiernos y personas de interés como Elon Musk, Gary Gensler fue el primer presidente o directivo de un ente regulador de EEUU en hablar sobre ella. Estas declaraciones las hizo en julio de este 2023, en donde resaltó que había que crear con urgencia un marco regulatorio para el uso de la IA en el mundo financiero.

De Kasparov a la IA

El motivo: evitar que esta tecnología afecte la toma de decisiones de los inversionistas y que altere al mercado financiero. Y es que, según Gensler, la IA puede generar que esta toma de decisiones se generalice. Aumentando tanto a la volatilidad como a la estabilidad de los mercados, algo que el presidente de la SEC quiere evitar a toda costa.

Toda esta precaución tiene un origen y se remontan a 1997. En ese entonces, se disputó una partida de ajedrez entre el maestro Gary Kasparov y una computadora de IBM. El resultado fue que el ajedrecista, que había podido contra todos sus pares y que era venerado a nivel mundial, no pudo contra el poder de una máquina y perdió.

A partir de ahí, Gensler, que fue miembro del equipo de ajedrez de su secundaria, se enfocó en estudiar hasta donde podía llegar el poder de las computadoras y cómo estás, a través del machine learning, podían afectar las actitudes humanas.

Este estudio sobre las computadoras y su poder se mezcló con su labor en Washington. Y es que, tras renunciar a un gran puesto en Goldman Sachs, se fue a trabajar en el gobierno de EEUU.

Ahí participó en la resolución de una serie de crisis que van desde la caída de Enron, hasta la gran explosión de la burbuja inmobiliaria en 2008 y todo lo que sucedió posteriormente para tratar de rescatar a la economía y los planes de la administración de Obama.

Así lo ha explicado un reciente reportaje de Bloomberg en donde el presidente de la SEC explicó su postura sobre la IA, las criptomonedas y los NFT. Y analizó su paso por Washington y el MIT.

La SEC y el riesgo de la IA

Como se menciona al principio de la nota, Gensler ha tenido dos años de lucha contra las criptomonedas, pero ahora esta lucha ha cambiado. Según el presidente de la SEC, el tema de la IA es mucho más urgente porque esta tecnología aceleró a la automatización de las acciones humanas.

“Esta es la tecnología más transformadora de esta generación. Hay un “allí” allí: podemos llegar a las criptomonedas más tarde. Estamos tomando mucho de lo que hacemos los humanos a diario y lo estamos automatizando”.

Es en este punto final en el que se enfoca la SEC. Según la Comisión, el automatizar el análisis y la toma de decisiones de inversión generaría un “efecto cascada” que llevaría a que millones de dólares en activos se vean afectados.

Unos 3 años antes de que la SEC empezara a tomar esta postura, Gensler ya lo había advertido en un paper que realizó mientras enseñaba en el MIT. En este trabajo titulado “Deep Learning and Financial Stability” explicó que uno de los riesgos que lleva consigo la IA y la tecnología que la rodea es que “estos modelos, ya sea intencionalmente o no, se coordinarán y comunicarán entre sí para optimizar mejor sus resultados”. Esto podría generar que todos utilicen ya no solo la misma data, sino las mismas regulaciones.

No es la IA, es quien la maneja

Es justamente esto lo que Gensler desde la SEC quieren prevenir. El problema como tal no es la tecnología, sino quien está detrás de ella. Para él esto es similar a un fraude porque en algún punto del proceso entran las decisiones y planteamientos del hombre.

“Cuando la IA juega contigo al ajedrez, ¿Crees que tienen la intención de ganarte? No, hay humanos en algún momento juntando funciones objetivas”.

Esto último es lo que sucede en algún punto con la IA. Sí, automatiza los datos y presenta escenarios, pero si estos datos se dan con una intención distinta o siguiendo una tendencia, la computadora va a terminar generando acciones que puedan ser perjudiciales.

Por esto, desde la SEC se pide más control sobre la IA, como el parlamento europeo. Por lo que se puede esperar que en los próximos meses una legislación sobre esto sea de las más sonadas dentro del Congreso de EEUU.

Mientras esto ocurre, la SEC seguirá su labor de control sobre las empresas que entren bajo su jurisdicción. Actualmente, están respondiendo el tema de los ETF de Bitcoin, pero también están al tanto de lo que sucede con los casos de OpenAI.

Hay que recordar que en julio, OpenAI entró en la lista de empresas acusadas e investigadas al recibir dos demandas por el uso de datos y una investigación de un organismo regulador para revisar esto último.

Por lo que ya el contexto está armado y la lucha por parte de la SEC contra la IA ha comenzado.