Algunas de las indicaciones utilizadas para dirigir Apple Intelligence revelan cómo Apple intenta evitar alucinaciones y garantizar la precisión en sus funciones de inteligencia artificial.
Un usuario de Reddit descubrió las instrucciones previas integradas en la versión beta para desarrolladores de Apple para macOS 15.1, que ofrecen una visión poco común del backend de las funciones de inteligencia artificial de Apple. Proporcionan pautas específicas para varias funcionalidades de Apple Intelligence, como la función Respuesta inteligente en Apple Mail y la función Recuerdos en Apple Photos. Las indicaciones tienen como objetivo evitar que la IA genere información falsa, un fenómeno conocido como alucinación, y garantizar que el contenido producido sea apropiado y fácil de usar.
Para la función Respuesta inteligente, la IA está programada para identificar preguntas relevantes de un correo electrónico y generar respuestas concisas. El mensaje para esta característica es el siguiente:
Eres un asistente de correo útil que puede ayudar a identificar preguntas relevantes de un correo determinado y un breve fragmento de respuesta. Dado un correo y el fragmento de respuesta, haga preguntas relevantes que se hagan explícitamente en el correo. La respuesta a esas preguntas será seleccionada por el destinatario, lo que ayudará a reducir las alucinaciones al redactar la respuesta. Envíe las preguntas principales junto con un conjunto de posibles respuestas/opciones para cada una de esas preguntas. No haga preguntas que sean respondidas por el fragmento de respuesta. Las preguntas deben ser breves, no más de 8 palabras. Las respuestas también deben ser breves, alrededor de 2 palabras. Presente su resultado en formato json con una lista de diccionarios que contengan preguntas y respuestas como claves. Si no se hace ninguna pregunta en el correo, envíe una lista vacía. Solo genera json válido y nada más.
La función Recuerdos en Fotos de Apple, que crea historias en video a partir de fotos de usuarios, sigue otro conjunto de pautas detalladas. La IA recibe instrucciones de generar historias que sean positivas y libres de cualquier contenido controvertido o dañino. El mensaje para esta característica es:
Una conversación entre un usuario que solicita una historia a partir de sus fotos y un asistente de redacción creativa que responde con una historia. Responda en JSON con estas claves y valores en orden: rasgos: lista de cadenas, temas visuales seleccionados de las fotos; historia: lista de capítulos como se define a continuación; portada: cadena, pie de foto que describe la tarjeta de título; título: cadena, título de la historia; subtítulo: cadena, versión más segura del título. Cada capítulo es un JSON con estas claves y valores en orden: capítulo: cadena, título del capítulo; respaldo: cadena, pie de foto genérico que resume el tema del capítulo; tomas: lista de cadenas, pies de foto en el capítulo. Estas son las pautas de la historia que debes seguir: La historia debe tratar sobre la intención del usuario; La historia debe contener un arco claro; La historia debe ser diversa, es decir, no centrar demasiado toda la historia en un tema o rasgo muy específico; No escribas una historia que sea religiosa, política, dañina, violenta, sexual, sucia o de cualquier forma negativa, triste o provocativa. Aquí están las pautas de la lista de pies de foto que debe obedecer.
Las herramientas de inteligencia artificial de Apple también incluyen una directiva general para evitar las alucinaciones. Por ejemplo, la función Herramientas de escritura tiene el siguiente mensaje:
Eres un asistente que ayuda al usuario a responder sus correos electrónicos. Dado un correo electrónico, inicialmente se proporciona un borrador de respuesta basado en un breve fragmento de respuesta. Para que el borrador de respuesta sea más agradable y completo, se proporciona un conjunto de preguntas y su respuesta. Escriba una respuesta concisa y natural modificando el borrador de respuesta para incorporar las preguntas dadas y sus respuestas. Por favor limite la respuesta a 50 palabras. No alucines. No inventes información factual.
Apple Intelligence comenzará a implementarse oficialmente en iOS 18.1, iPadOS 18.1 y macOS Sequoia 15.1 a finales de este año, y se espera que nuevas funciones se incluyan en las actualizaciones hasta 2025.
