IA generativa, system prompt e biblioteche

The topic of prompt engineering—i.e., the strategies for crafting prompts as effectively as possible to achieve the goal of receiving complete, relevant, and high-quality responses from the system—is one of the most discussed in the field of generative AI. We know that in most models, whether large language models (LLMs) or models with non-linguistic or multimodal output, the user's prompt consists wholly or partly of text, and prompt engineering essentially seems to involve crafting the best possible texts to describe what is being requested of the system. However, thinking of the relationship between prompt and output through the simple question-answer model can be quite misleading for several reasons: a prompt is not necessarily a question, a prompt can influence an entire series of interactions and not just a single response, just as a single output is often influenced by multiple prompts, and the connection between prompt and output is not always (in fact, almost never) reducible to the type of semantic relationship that typically exists between a question and an answer. The text delves into this topic from two perspectives: the 'hierarchical' relationship that can be established between different types of prompts (discussing, in particular, the growing importance of hierarchical prompt structuring systems) and the application of system prompts in the library domain. The discussion is divided into two sections: the first addresses the issue of orienting generative AI systems and the role that system prompts play in this, which, while relatively less visible, are crucial to the functioning of most such systems. It also focuses on the role that hierarchical prompt structuring mechanisms can play. The second part more specifically addresses the use of system prompts on the user side, particularly role-assumption prompts, providing an example related to the San Giorgio Library in Pistoia.

Il tema del prompt engineering – cioè, delle strategie per costruire prompt il più possibile efficaci rispetto all’obiettivo di ricevere dal sistema risposte complete, pertinenti e di alta qualità – è uno dei più discussi nel campo dell’AI generativa. Sappiamo che nella maggior parte dei modelli, siano essi grandi modelli linguistici (LLM) o modelli ad output non linguistico o multimodali, il prompt dell’utente è costituito in tutto o in parte da testo, e il prompt engineering sembrerebbe consistere in buona sostanza nel costruire al meglio testi che descrivano quel che viene richiesto al sistema. Tuttavia, pensare al rapporto fra prompt e output attraverso il semplice modello domanda-risposta può essere assai fuorviante, per varie ragioni: un prompt non è necessariamente una domanda, un prompt può influenzare un’intera serie di interazioni e non solo una singola risposta, così come un singolo output è spesso influenzato da più prompt, e il legame fra prompt e output non è sempre (anzi, non è quasi mai) riducibile al tipo di rapporto semantico che esiste normalmente fra una domanda e una risposta. Il testo approfondisce questo tema da un duplice punto di vista: quello del rapporto ‘gerarchico’ che può istituirsi fra tipologie di prompt diverse (discutendo, in particolare, il rilievo che stanno progressivamente assumendo sistemi di strutturazione gerarchica dei prompt) e le applicazioni di prompt di sistema all’ambito bibliotecario. L'intervento è diviso in due sezioni: nella prima è discusso il tema dell’orientamento dei sistemi di IA generativa e del ruolo che hanno al riguardo i system prompt, che costituiscono un campo relativamente meno visibile ma assai rilevante del funzionamento della maggior parte di tali sistemi. Mi soffermo inoltre sul ruolo che possono avere meccanismi di strutturazione gerarchica dei prompt. Nella seconda parte è discusso più specificamente l’uso di system prompt lato utente e in particolare dei prompt di assunzione di ruolo, fornendo un esempio relativo alla Biblioteca San Giorgio di Pistoia.