Nvidia lanza herramientas de software para ayudar a los chatbots a cuidar su lenguaje

Nvidia, un importante proveedor de chips y sistemas informáticos para inteligencia artificial, lanzó el martes un conjunto de herramientas de software destinadas a ayudar a los chatbots a controlar su lenguaje.

Los chips de Nvidia han ayudado a empresas como Microsoft a agregar funciones de chat similares a las humanas a motores de búsqueda como Bing. Pero los chatbots aún pueden ser impredecibles y decir cosas que sus creadores desearían no decir.

En febrero, Microsoft limitó a los usuarios a cinco preguntas por sesión con su motor de búsqueda Bing después de que el New York Times informara que el sistema dio respuestas inquietantes durante largas conversaciones.

Las herramientas de software de Nvidia, proporcionadas de forma gratuita, están diseñadas para ayudar a las empresas a protegerse contra las respuestas no deseadas de los chatbots. Algunos de esos usos son sencillos: es posible que el fabricante de un chatbot de servicio al cliente no quiera que el sistema mencione productos de sus competidores.

Pero las herramientas de Nvidia también están diseñadas para ayudar a los creadores de sistemas de IA a implementar importantes medidas de seguridad, como garantizar que los chatbots no respondan con información potencialmente peligrosa, como, por ejemplo, cómo crear armas o enviar a los usuarios a enlaces desconocidos que podrían contener virus informáticos.

Los legisladores de EE. UU. han pedido regulaciones sobre los sistemas de inteligencia artificial a medida que las aplicaciones como ChatGPT han ganado popularidad. Existen pocas reglas legales o estándares de la industria sobre cómo hacer que los sistemas de IA sean seguros.

Jonathan Cohen, vicepresidente de investigación aplicada de Nvidia, dijo que la compañía tiene como objetivo proporcionar herramientas para poner esos estándares en el código de software cuando lleguen, ya sea a través del consenso de la industria o la regulación.

“Creo que es difícil hablar de estándares si no tienes una manera de implementarlos”, dijo. «Si surgen estándares, entonces habrá un buen lugar para ponerlos». Ver las imágenes en nuestro Portal Tv.

Fuente: reuters

Artículos Relacionados:

Qualcomm y Nvidia compiten por el primer puesto en las pruebas de eficiencia de chips de IA Nvidia muestra una nueva investigación sobre el uso de IA para mejorar los diseños de chips Oracle Cloud agrega decenas de miles de chips Nvidia para IA Adobe renueva las herramientas de diseño de metaverso para los chips de Apple Intel lanza nuevos chips de IA que desafían el mercado de Nvidia Nvidia presenta nuevos Chips para acelerar la Inteligencia Artificial y lanza una supercomputadora