ChatGPT ahora chatea a través de Azure OpenAI Service

Microsoft está poniendo a disposición el modelo de lenguaje extendido ChatGPT en versión preliminar como un componente para aplicaciones para el servicio Azure OpenAI. Por lo tanto, los desarrolladores podrán integrar el modelo en una multitud de aplicaciones empresariales y de usuario final. Parece que Microsoft ya ha tenido varios usuarios trabajando con esta integración. Es el caso, en particular, de ODP Corporation (matriz de Office Depot y OfficeMax), la Smart Nation Digital Government Office de Singapur y el proveedor del software de gestión de contratos Icertis, citados por Microsoft como clientes de referencia. .

Los desarrolladores que usan el servicio Azure OpenAI pueden usar ChatGPT para agregar varias funciones a sus aplicaciones, como resumir conversaciones en centros de llamadas, automatizar el procesamiento de reclamos e incluso crear nuevos anuncios con contenido personalizado, entre otras cosas. La IA generativa como ChatGPT ya se está utilizando para mejorar las ofertas de productos de Microsoft. Por ejemplo, según la empresa, la versión premium de Teams puede usar IA para crear capítulos en conversaciones y resúmenes generados automáticamente, mientras que Viva Sales puede ofrecer orientación basada en datos y sugerir contenido de correo electrónico para ayudar a los equipos a llegar a sus clientes.

Precios por fichas

Ritu Jyoti, vicepresidente del grupo IDC para investigación de IA y automatización, dijo que los casos de uso propuestos tienen mucho sentido y que, en su opinión, como primer paso, la nueva oferta de Microsoft impulsada por ChatGPT se enfocará internamente dentro de las empresas. “Por ejemplo, ayudar a Recursos Humanos a escribir descripciones de puestos, ayudar a los empleados a administrar y descubrir conocimientos internos, en otras palabras, ayudar a los empleados a realizar investigaciones internas”, dijo.

El precio del servicio es por tokens: un token cubre aproximadamente cuatro caracteres de una consulta dada en inglés escrito, un párrafo promedio asciende a 100 tokens y un ensayo de 1500 palabras a aproximadamente 2048 tokens. Según la Sra. Jyoti, una de las razones por las que las aplicaciones basadas en GPT-3 se volvieron más populares justo antes de que ChatGPT se volviera viral fue porque el precio de la Fundación OpenAI cayó a alrededor de $0.02 por cada 1000 tokens. "ChatGPT a través de Azure cuesta aún menos, a $0,002 por 1000 tokens, lo que hace que el servicio sea potencialmente más económico que usar un modelo de lenguaje extendido interno", agregó. "Creo que el precio es perfecto", dijo Ritu Jyoti.

Un esfuerzo por la IA responsable

Según Bern Elliot, vicepresidente y analista de Gartner, para su servicio, Microsoft parece estar enfatizando las prácticas responsables de IA, lo que significa que puede haber aprendido lecciones de incidentes en los que un chatbot de Bing se comportó de manera extraña, incluida una conversación con un reportero del New York Times. a quien la IA le declaró su amor y trató de convencerlo de que dejara a su esposa. “Creo que Microsoft siempre se ha tomado muy en serio la IA responsable, y es un mérito para ellos”, dijo Bern Elliot. “Esta sólida trayectoria de uso ético y respeto a la privacidad en la empresa es positiva y habla a su favor”, agregó.

Según él, este aspecto es fundamental, dadas las preocupaciones planteadas por el uso de la IA en la empresa, en particular en términos de protección de datos y la contextualización de conjuntos de datos. Este último punto generalmente es para garantizar que la IA empresarial obtenga sus respuestas de la base de información correcta, lo que garantiza que estas respuestas sean correctas y evita las discrepancias que se pueden ver en la IA en un uso más general.