Crédito: tiempo de ensueño

Microsoft, con su biblioteca TypeChat, busca habilitar el desarrollo fácil de interfaces de lenguaje natural para Modelos grandes de lenguaje (LLM) utilizando tipos.

disponible en github, Escribe charla Es una biblioteca de código abierto utilizada mecanografiado Y inteligencia artificial generativa Para vincular el lenguaje natural, el esquema de la aplicación y las API. TypeChat usa las definiciones de tipo en su aplicación para recuperar respuestas de IA estructuradas que son seguras para el tipo.

Fue presentado el 20 de julio. por un equipo que incluye malo # Y mecanografiado El desarrollador principal Anders Hejlsberg, miembro técnico de Microsoft, TypeChat aborda la dificultad de desarrollar interfaces de lenguaje natural, donde las aplicaciones se basan en árboles de decisión complejos para definir la intención y recopilar la información necesaria para tomar medidas.

Los creadores de TypeChat dijeron que TypeChat reemplaza la ingeniería rápida con la ingeniería esquemática. Los desarrolladores pueden especificar qué tipos representan objetivos admitidos en una aplicación de lenguaje natural. Esto podría ser tan simple como una interfaz para categorizar emociones o más complejo, como tipos de carritos de compras o una aplicación de música.

Después de que el desarrollador define los tipos, TypeChat crea una directiva para el LLM usando esos tipos y verifica que la respuesta del LLM coincida con el esquema. Si la validación falla, se utiliza una mayor interacción del modelo de lenguaje para corregir la salida no conforme. TypeChat también abstrae la instancia y afirma que coincide con la intención del usuario.