Mesa de la izquierda Abstracto y 1.- Introducción y trabajo relacionado 
 
 
 
 
 
 
 
 
 
 
 Methodology 2.1 LLM-Sim Task 2.2 Data 2.3 Evaluation 
 
 Experiments 
 
 Results 
 
 Conclusion 
 
 Limitations and Ethical Concerns, Acknowledgements, and References A. Detalles del modelo Ejemplos de juegos de transición Generación de reglas del juego D. Prompto E. Resultados de GPT-3.5 F. Histogramas 5 Conclusión 6 Limitaciones y preocupaciones éticas 6.1 Limitaciones Este trabajo considera dos LLM fuertes en el aprendizaje contextual, GPT-3.5 y GPT-4, en su capacidad de actuar como simuladores formales explícitos.Adoptamos estos modelos porque son generalmente los modelos de esquina de mayor rendimiento en una variedad de referencias. Mientras observamos que incluso GPT-3.5 y GPT-4 alcanzaron una puntuación modesta en la tarea propuesta, reconocemos que no evaluamos exhaustivamente una gran selección de modelos de idiomas grandes, y otros modelos pueden funcionar mejor. Proporcionamos este trabajo como un punto de referencia para evaluar el rendimiento de los modelos existentes y futuros en la tarea de simular con precisión las transiciones espaciales de estado. En este trabajo, hemos propuesto dos formalismos representativos para representar los espacios de estado, uno que incluye el espacio de estado completo, mientras que el otro se centra en la diferencia de estado, ambos representados usando objetos JSON. Hemos elegido estas representaciones en base a su popularidad y compatibilidad con los formatos de entrada y salida de la mayoría de los datos de pre-entrenamiento LLM (por ejemplo, Fakhoury et al., 2023), así como poder comparar directamente contra la salida de simulador estándar de oro para evaluación, aunque es posible que otros formatos representativos puedan ser más performativos en la tarea de simulación. Finalmente, los espacios de estado producidos en este trabajo se centran en torno al dominio del sentido común y el razonamiento científico temprano (elemental). Estas tareas, como abrir contenedores o activar dispositivos, se eligieron porque los resultados de estas acciones son conocimientos comunes, y los modelos son susceptibles de ser más eficientes en la simulación de estas acciones. Mientras que este trabajo aborda una selección de acciones y propiedades menos frecuentes, no aborda el uso de LLMs como simuladores para áreas altamente específicas de dominio, como la simulación física o médica. Un objetivo a largo plazo de este trabajo es facilitar el uso de modelos de lenguaje como simuladores para dominios de alto impacto, y vemos este trabajo como una piedra angular para desarrollar gradualmente simuladores de modelo de lenguaje más capaces. 6.2 Preocupaciones éticas No prevemos un impacto ético o social inmediato derivado de nuestro trabajo. Sin embargo, reconocemos que como una aplicación LLM, la tarea LLM-Sim propuesta podría verse afectada de alguna manera por la desinformación y las alucinaciones introducidas por el LLM específico seleccionado por el usuario. Nuestro trabajo resalta el problema con el uso de LLM como simuladores del mundo basados en texto. En tareas descendentes, como la simulación de juegos, los LLM pueden generar información engañosa o no factual. Por ejemplo, si el simulador sugiere quemar una casa para hervir el agua, nuestro trabajo no impide esto, ni evaluamos las implicaciones éticas de tales sugerencias potencialmente peligrosas. Como resultado, creemos que tales aplicaciones no son adecuadas ni seguras para ser desplegadas en un entorno donde interactúan directamente Reconocimientos Deseamos agradecer a los tres revisores anónimos por sus comentarios útiles sobre un proyecto anterior de este artículo. Referencias Josh Achiam, Steven Adler, Sandhini Agarwal, Lama Ahmad, Ilge Akkaya, Florencia Leoni Aleman, Diogo Almeida, Janko Altenschmidt, Sam Altman, Shyamal Anadkat, et al. 2023. Gpt-4 informe técnico. arXiv preprint arXiv:2303.08774. Ashutosh Adhikari, Xingdi Yuan, Marc-Alexandre Côté, Mikuláš Zelinka, Marc-Antoine Rondeau, Romain Laroche, Pascal Poupart, Jian Tang, Adam Trischler y Will Hamilton. 2020. Aprender gráficos dinámicos de creencia para generalizar en juegos basados en texto. Avances en Sistemas de Procesamiento de Información Neural, 33:3045-3057. Prithviraj Ammanabrolu y Matthew Hausknecht. 2020. El gráfico restringió el aprendizaje de refuerzos para espacios de acción del lenguaje natural. arXiv preprint arXiv:2001.08837. Marc-Alexandre Côté, Ákos Kádár, Xingdi Yuan, Ben Kybartas, Tavian Barnes, Emery Fine, James Moore, Ruo Yu Tao, Matthew Hausknecht, Layla El Asri, Mahmoud Adada, Wendy Tay y Adam Trischler. 2018. Textworld: Un entorno de aprendizaje para juegos basados en texto. CoRR, abs/1806.11532. Sarah Fakhoury, Saikat Chakraborty, Madan Musuvathi y Shuvendu K Lahiri. 2023. hacia la generación de ediciones de código funcionalmente correctas a partir de descripciones de problemas de lengua natural. arXiv preprint arXiv:2304.03816. Angela Fan, Jack Urbanek, Pratik Ringshia, Emily Dinan, Emma Qian, Siddharth Karamcheti, Shrimai Prabhumoye, Douwe Kiela, Tim Rocktaschel, Arthur Szlam y Jason Weston. Shibo Hao, Yi Gu, Haodi Ma, Joshua Hong, Zhen Wang, Daisy Wang y Zhiting Hu. 2023 El razonamiento con el modelo de lenguaje está planeando con el modelo del mundo. Athew Hausknecht, Prithviraj Ammanabrolu, MarcAlexandre Côté y Xingdi Yuan. 2020. Juegos de ficción interactivos: Una aventura colosal. En Procedimientos de la Conferencia AAAI sobre Inteligencia Artificial, volumen 34, páginas 7903-7910. En Proceedings of the 3rd Wordplay: When Language Meets Games Workshop (Wordplay 2022), páginas 1–15. Leslie Pack Kaelbling, Michael L. Littman y Anthony R. Cassandra. 1998. Planificación y acción en dominios estocásticos parcialmente observables. Inteligencia artificial, 101(1-2):99–134. Bo Liu, Yuqian Jiang, Xiaohan Zhang, Qiang Liu, Shiqi Zhang, Joydeep Biswas, y Peter Stone. 2023. Llm+ p: Empowering grandes modelos de lenguaje con una habilidad de planificación óptima. arXiv preprint arXiv:2304.11477. Kolby Nottingham, Prithviraj Ammanabrolu, Alane Suhr, Yejin Choi, Hannaneh Hajishirzi, Sameer Singh, y Roy Fox. 2023 Los agentes encarnados sueñan con ovejas pixeladas: toma de decisiones encarnadas utilizando el modelado del mundo guiado por el lenguaje. En la Conferencia Internacional sobre el Aprendizaje de Máquinas, páginas 26311–26325. Mohit Shridhar, Xingdi Yuan, Marc-Alexandre Côté, Yonatan Bisk, Adam Trischler y Matthew Hausknecht. 2020. Alfworld: Alineación del texto y entornos encarnados para el aprendizaje interactivo. arXiv preprint arXiv:2010.03768. Hao Tang, Darren Key, y Kevin Ellis. 2024. Worldcoder, un agente llm basado en modelos: Construir modelos del mundo escribiendo código e interactuando con el entorno. arXiv preprint arXiv:2402.12275. Jack Urbanek, Angela Fan, Siddharth Karamcheti, Saachi Jain, Samuel Humeau, Emily Dinan, Tim Rocktäschel, Douwe Kiela, Arthur Szlam y Jason Weston. Karthik Valmeekam, Matthew Marquez, Sarath Sreedharan, y Subbarao Kambhampati. 2023. Sobre las capacidades de planificación de los grandes modelos de lenguaje-una investigación crítica. Avances en Sistemas de Procesamiento de Información Neural, 36:75993–76005. Nick Walton.2020 Cómo escalamos AI Dungeon 2 para soportar a más de 1.000.000 usuarios. Ruoyao Wang, Peter Jansen, Marc-Alexandre Côté, y Prithviraj Ammanabrolu. 2022. Scienceworld: ¿Es tu agente más inteligente que un 5o grado? en Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing, páginas 11279–11298. Ruoyao Wang, Graham Todd, Xingdi Yuan, Ziang Xiao, Marc-Alexandre Côté y Peter Jansen. 2023. ByteSized32: Una tarea corpus y desafío para generar modelos de mundo específicos a tareas expresados como juegos de texto. En Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing, páginas 13455–13471, Singapur. Lionel Wong, Gabriel Grand, Alexander K Lew, Noah D Goodman, Vikash K Mansinghka, Jacob Andreas, y Joshua B Tenenbaum. 2023. De modelos de palabras a modelos del mundo: Traducción del lenguaje natural al lenguaje probabilístico del pensamiento. arXiv preprint arXiv:2306.12672. 
 
 
 
 
 
 
 
 
 Los autores: (1) Ruoyao Wang, Universidad de Arizona (ruoyaowang@arizona.edu); (2) Graham Todd, Universidad de Nueva York (gdrtodd@nyu.edu); (3) Ziang Xiao, Universidad Johns Hopkins (ziang.xiao@jhu.edu); (4) Xingdi Yuan, de Microsoft Research Montréal (eric.yuan@microsoft.com); (5) Marc-Alexandre Côté, Microsoft Research Montréal (macote@microsoft.com); (6) Peter Clark, Instituto Allen para la IA (PeterC@allenai.org). (7) Peter Jansen, Universidad de Arizona y Allen Institute for AI (pajansen@arizona.edu). Authors: (1) Ruoyao Wang, Universidad de Arizona ( ) ; Encuentros@arizona.edu (2) Graham Todd, Universidad de Nueva York ( ) ; Página oficial@nyu.edu (3) Ziang Xiao, Universidad Johns Hopkins (ziang.xiao@jhu.edu); (4) Xingdi Yuan, Microsoft Research Montréal ( ) ; yuan@microsoft.com (5) Marc-Alexandre Côté, Microsoft Research Montréal (macote@microsoft.com); (6) Peter Clark, Instituto Allen para la IA (PeterC@allenai.org). (7) Peter Jansen, Universidad de Arizona y Allen Institute for AI (pajansen@arizona.edu). 
 
 Este artículo está disponible en archivo bajo la licencia CC BY 4.0. Este artículo está disponible en archivo bajo la licencia CC BY 4.0. Disponible en Archivo

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

AI Models on HackerNoon

Este audio es producido en el idioma original de la historia!

Los modelos de IA aún no se pueden confiar en simulaciones de alto nivel

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

Valhalla de Floki se une como patrocinador asociado de la gira de la India por Sri Lanka

Creación de productos criptográficos centrados en el usuario: la importancia de los comentarios de los clientes

Una breve introducción a la teoría del cerebro de Boltzmann

La fuga rápida del sistema Claude Sonnet 3.5: un análisis forense

Valhalla de Floki se une como patrocinador asociado de la gira de la India por Sri Lanka

Creación de productos criptográficos centrados en el usuario: la importancia de los comentarios de los clientes

Una breve introducción a la teoría del cerebro de Boltzmann

La fuga rápida del sistema Claude Sonnet 3.5: un análisis forense

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps