Meta añade nuevas protecciones de IA para la seguridad de los jóvenes

Meta está añadiendo nuevas protecciones para adolescentes a sus productos de inteligencia artificial entrenando sistemas para evitar conversaciones coquetas y discusiones sobre autolesiones o suicidio con menores, y limitando temporalmente su acceso a ciertos personajes de IA.

Un informe reveló cómo Meta permitía un comportamiento provocativo de los chatbots, incluyendo permitirles participar en «conversaciones románticas o sensuales». El portavoz de Meta, Andy Stone, dijo en un correo electrónico el viernes que la compañía está tomando estas medidas temporales mientras desarrolla medidas a más largo plazo para garantizar que los adolescentes tengan experiencias de IA seguras y apropiadas para su edad.

Stone dijo que las medidas de seguridad ya se están implementando y se ajustarán con el tiempo a medida que la compañía perfeccione sus sistemas. Las políticas de inteligencia artificial de Meta fueron objeto de un intenso escrutinio y reacciones negativas después del informe de Reuters. El senador estadounidense Josh Hawley inició una investigación sobre las políticas de inteligencia artificial de la empresa matriz de Facebook a principios de este mes, exigiendo documentos sobre las reglas que permitieron a sus chatbots interactuar de manera inapropiada con menores.

Tanto los demócratas como los republicanos en el Congreso han expresado su alarma por las reglas descritas en un documento interno de Meta que fue revisado por primera vez por Reuters. Meta había confirmado la autenticidad del documento, pero dijo que después de recibir preguntas a principios de este mes de Reuters, la compañía eliminó partes que indicaban que era permisible que los chatbots coquetearan y participaran en juegos de roles románticos con niños. Los ejemplos y notas en cuestión eran y son erróneos e inconsistentes con nuestras políticas, y han sido eliminados», dijo Stone a principios de este mes.

Fuente: reuters

Artículos Relacionados:

Ultimas Noticias: Meta se asocia con Midjourney para imágenes de IA, Musk dice que xAI abre fuentes de Grok 2.5 Zuckerberg dice que Meta gastará hasta 65 mil millones de dólares este año para impulsar objetivos de inteligencia artificial El retraso del nuevo chip de inteligencia artificial de Nvidia podría afectar a Microsoft, Google y Meta Las nuevas gafas Ray-Ban Meta se han vendido más que la versión anterior, afirma el director general de Essilux Meta dice que el malware relacionado con ChatGPT está en aumento Meta (Facebook), dice que su nueva supercomputadora de Inteligencia Artificial será la más rápida del mundo