La investigación AI Economist de Salesforce quiere explorar el equilibrio entre igualdad y productividad

2016 fue un año essential para Salesforce. Fue entonces cuando la empresa adquirió MetaMind, “una plataforma de inteligencia synthetic empresarial que funcionaba en imágenes médicas e imágenes de comercio electrónico y NLP y muchas otras cosas, una plataforma horizontal que juega como una herramienta de aprendizaje automático para desarrolladores”, como el fundador Richard Socher lo describió.

Si eso suena interesante hoy, probablemente estaba adelantado a su tiempo entonces. La adquisición impulsó a Socher a jefe científico de datos en Salesforce, liderando a más de 100 investigadores y muchos cientos de ingenieros que trabajan en aplicaciones que se implementaron a escala e impacto de Salesforce. AI se convirtió en una parte integral de los esfuerzos de Salesforce, principalmente a través de Fuerza de ventas Einsteinuna iniciativa de gran alcance para inyectar capacidades de inteligencia synthetic en la plataforma de Salesforce.

Además de los esfuerzos orientados al mercado, Salesforce también patrocina iniciativas “AI for good”. Esto incluye lo que Marcos de Salesforce como un lanzamiento a la luna: construir un planificador social de IA que aprenda las políticas económicas óptimas para el mundo actual. El proyecto que lleva el nombre de “AI Economist” ha recientemente publicado algunos nuevos resultados. Stephan Zheng, científico de investigación principal de Salesforce, gerente sénior del equipo de economistas de IA, compartió más información sobre los antecedentes, los resultados y la hoja de ruta del proyecto.

El aprendizaje por refuerzo como herramienta de política económica

Zheng estaba trabajando para obtener su doctorado en física en la época en que explotó el aprendizaje profundo: 2013. La motivación que citó para su trabajo en Salesforce es doble: “ampliar los límites del aprendizaje automático para descubrir los principios de la inteligencia normal, pero también para hacer el bien social”.

Zheng cree que los problemas socioeconómicos se encuentran entre los más críticos de nuestro tiempo. Lo que lo atrajo de esta línea specific de investigación es el hecho de que la desigualdad económica ha estado acelerando en las últimas décadas, afectando negativamente las oportunidades económicas, la salud y el bienestar social.

Los impuestos son una herramienta gubernamental importante para mejorar la igualdad, señala Zheng. Sin embargo, él cree que es un desafío para los gobiernos diseñar estructuras tributarias que ayuden a crear igualdad y al mismo tiempo impulsen la productividad económica. Parte del problema, agrega, tiene que ver con el propio modelo económico.

“En la economía tradicional, si las personas quieren optimizar su política, necesitan hacer muchas suposiciones. Por ejemplo, podrían decir que el mundo es más o menos igual todos los años. En realidad, nada cambia tanto.

Eso es realmente restrictivo. Significa que muchos de estos métodos realmente no encuentran la mejor política si consideras el mundo en toda su riqueza si observas todas las formas en que el mundo puede cambiar a tu alrededor”, dijo Zheng.

El equipo de Salesforce AI Economist intenta abordar esto aplicando un tipo specific de aprendizaje automático llamado aprendizaje reforzado (RL). RL se ha utilizado para construir sistemas como AlphaGo y es diferente del enfoque de aprendizaje supervisado que prevalece en el aprendizaje automático.

“En el aprendizaje supervisado, alguien te da un conjunto de datos estáticos y luego tratas de aprender patrones en los datos. En el aprendizaje por refuerzo, en cambio, tienes esta simulación, este entorno interactivo, y el algoritmo aprende a mirar el mundo e interactuar. con la simulación. Y luego, a partir de eso, en realidad puede jugar con el entorno, puede cambiar la forma en que funciona el entorno “, explicó Zheng.

Esta flexibilidad fue la razón principal por la que se eligió RL para AI Economist. Como explicó Zheng, hay tres partes en este enfoque. Está la simulación en sí, la optimización de la política, y luego también están los datos, porque los datos se pueden usar para informar cómo funciona la simulación. The AI ​​Economist se centró en modelar y simular un subconjunto simplificado de la economía: el impuesto sobre la renta.

Se creó un mundo bidimensional, modelando relaciones espaciales y temporales. En este mundo, los agentes pueden trabajar, extraer recursos, construir casas y ganar dinero de esa manera. Los ingresos que obtienen los agentes a través de la construcción de viviendas son luego gravados por el gobierno. La tarea de AI Economist es diseñar un sistema tributario que pueda optimizar para la igualdad (cuán similares son los ingresos de las personas) y la productividad (suma de todos los ingresos).

Modelado de IA frente al mundo actual

La investigación de Salesforce muestra que la IA puede mejorar la compensación entre la igualdad de ingresos y la productividad en comparación con tres escenarios alternativos: una fórmula fiscal prominente desarrollada por Emmanuel Saez, impuestos progresivos que se asemejan a la fórmula fiscal de EE. UU. y el libre mercado (sin impuestos). Como explicó Zheng, esas 3 alternativas se codificaron en el sistema y sus resultados se compararon con los derivados de la IA a través de la simulación RL.

Aunque esto suena prometedor, también debemos tener en cuenta las limitaciones de esta investigación. En primer lugar, la investigación solo aborda el impuesto sobre la renta en una economía muy simplificada: no existen los activos, el comercio internacional y similares, y solo existe un tipo de actividad. Además, el número complete de agentes en el sistema es un máximo de 10 en este punto.

Zheng señaló que la investigación consideró muchos diseños espaciales y distribuciones de recursos diferentes, así como agentes con diferentes conjuntos de habilidades o niveles de habilidad. También mencionó que el trabajo precise es una prueba de concepto, centrándose en la parte del problema de la IA.

“El problema conceptual clave que estamos abordando es que el gobierno intenta optimizar esta política, pero también podemos usar la IA para modelar cómo responderá la economía a su vez. Esto es algo que llamamos un problema de RL de dos niveles.

Desde ese punto de vista, tener diez agentes en la economía y el gobierno ya es bastante difícil de resolver. Realmente tenemos que trabajar mucho para encontrar el algoritmo, para encontrar la combinación correcta de estrategias de aprendizaje para hacer que el sistema encuentre estas soluciones de política fiscal realmente buenas”, dijo Zheng.

mirando como la gente usa RL para entrenar sistemas para jugar algunos tipos de videojuegos o ajedrez, estos ya son problemas de búsqueda y optimización realmente difíciles, a pesar de que utilizan solo dos o diez agentes, agregó Zheng. Afirmó que AI Economist es más eficiente que esos sistemas.

El equipo de AI Economist confía en que ahora que tiene una buena comprensión de la parte del aprendizaje, está en una excelente posición para pensar en el futuro y extender este trabajo también a otras dimensiones, según Zheng.

en un versión anterior de AI Economist, el equipo experimentó con la participación de jugadores humanos en la simulación también. Esto resultó en más ruido, ya que las personas se comportaron de manera inconsistente; Sin embargo, según Zheng, AI Economist aún logró niveles más altos de calidad y productividad.

Economía y economistas

Algunas preguntas obvias en lo que respecta a esta investigación son qué piensan los economistas al respecto y si sus concepts también se modelaron en el sistema. Ningún miembro del equipo de AI Economist es en realidad economista. Sin embargo, se consultó a algunos economistas, según Zheng.

“Cuando comenzamos, no teníamos un economista a bordo, por lo que nos asociamos con David Parkes, que se sienta tanto en informática como en economía. En el transcurso del trabajo, hablamos con economistas y recibimos sus opiniones. retroalimentación También tuvimos un intercambio con (economista y autor de best-sellers) Tomas Piketty. Es un hombre muy ocupado, así que creo que encontró el trabajo interesante.

También planteó preguntas sobre, hasta cierto punto, cómo se podrían implementar las políticas. Y puedes pensar en esto desde muchas dimensiones, pero en normal estaba interesado en el trabajo. Creo que eso refleja la respuesta más amplia de la comunidad económica. Hay tanto interés como preguntas sobre si esto es implementable. ¿Qué necesitamos para hacer esto? Es motivo de reflexión para la comunidad económica”, dijo Zheng.

En cuanto al camino a seguir, Zheng cree que es “hacer que esto sea ampliamente útil y tenga un impacto social positivo”. Zheng agregó que una de las direcciones hacia las que se dirige el equipo es cómo acercarse al mundo actual.

(incrustar)https://www.youtube.com/watch?v=KPe1Zcb-pyQ(/incrustar)

Por un lado, eso significa construir simulaciones mejores y más grandes, para que sean más precisas y realistas. Zheng cree que será un componente clave de los marcos para el modelado económico y el diseño de políticas. Una gran parte de eso para los investigadores de IA es demostrar que se puede confiar en estos métodos.

“Quieres mostrar cosas como robustez y explicabilidad. Queremos decirles a todos que aquí están las razones por las que la IA recomendó esta o aquella política. Además, creo firmemente en esto como un problema interdisciplinario. Creo que realmente la oportunidad aquí es para la IA. investigadores trabajen junto con economistas, trabajen junto con expertos en políticas para comprender no solo las dimensiones técnicas de su problema, sino también para comprender cómo esa tecnología puede ser útil para la sociedad”, dijo Zheng.

Dos aspectos que Zheng enfatizó sobre esta investigación fueron el establecimiento de objetivos y la transparencia. El establecimiento de objetivos, es decir, para qué resultados optimizar, se realiza externamente. Esto significa que si el sistema debe optimizarse para la máxima igualdad, la máxima productividad, su equilibrio o, potencialmente, en el futuro, incorporar otros parámetros como la sostenibilidad también es una elección de diseño que depende del usuario.

Zheng describió la “transparencia complete” como la piedra angular del proyecto. Si en el futuro las iteraciones de este tipo de sistemas se utilizarán para el bien social, entonces todos deberían poder inspeccionarlos, cuestionarlos y criticarlos, según Zheng. Para lograr este objetivo, el equipo de AI Economist ha código abierto todo el código y los datos experimentales basado en la investigación.

Otra parte del camino a seguir para el equipo de AI Economist es un mayor alcance a la comunidad de economistas. “Creo que hay bastante educación aquí, donde hoy en día los economistas no están capacitados como científicos informáticos. Por lo normal, no se les enseña a programar en Python, por ejemplo. Y cosas como RL podrían no ser algo que sea parte de su plan de estudios estándar o su forma de pensar. Creo que aquí hay una gran oportunidad para la investigación interdisciplinaria”, dijo Zheng.

El equipo de AI Economist conversa constantemente con economistas y presenta este trabajo a la comunidad científica. Zheng dijo que el equipo está trabajando en una serie de proyectos, sobre los cuales podrán compartir más en un futuro cercano. Concluyó que un poco de educación para que las personas se familiaricen con este enfoque y una UI/UX más fácil de usar puede ser de gran ayuda.