Tout ce que vous devez savoir sur « l'ingénierie prompte » et « l'ingénierie contextuelle » par un ingénieur prompt ayant dirigé divers projets de master en droit dans ce domaine.
Partant de la question fondamentale « Qu'est-ce qu'une invite ? », cet ouvrage examine en détail le rôle de l'ingénieur en invite dans la conception des pipelines de modélisation, de données et de services. Il analyse également les missions et les compétences de cet ingénieur, tant en matière de techniques d'invite que dans des situations concrètes, notamment l'analyse métier, la planification et l'expérimentation.
Ce livre servira de guide, couvrant à la fois la théorie et la pratique, à ceux qui souhaitent mettre en place des processus de travail en tant qu'ingénieurs de performance, aux chefs de projet ou aux planificateurs qui travaillent avec des ingénieurs de performance, aux responsables RH qui embauchent des ingénieurs de performance et aux ingénieurs de performance en devenir.

La qualité et la précision des réponses aux examens de maîtrise en droit (LLM) varient considérablement en fonction des questions posées.
Par conséquent, afin d'obtenir les réponses les plus pertinentes pour le LLM, nous devons concevoir, expérimenter et affiner les consignes. C'est ce qu'on appelle « l'ingénierie des consignes ».
Et « ingénieur de réponse rapide » est un métier spécialisé dans ce type d'ingénierie de réponse rapide.
En d'autres termes, un ingénieur réactif est quelqu'un qui trouve des moyens pour que LLM fournisse de manière fiable les réponses attendues.
Cependant, terminer l'explication de cette manière laisse beaucoup de place aux malentendus.
En règle générale, le rôle d'un ingénieur en incitation est de concevoir des incitations qui maximisent les réponses des étudiants en master de droit.
Cependant, en pratique, les ingénieurs de réponse rapide sont responsables d'un large éventail de tâches, notamment la définition des informations nécessaires au modèle et la conception d'une réponse rapide en conséquence, l'analyse de l'activité du client, la conception des pipelines de services, la conception des données et la vérification des performances du modèle.

--- pp.25-26

J'ai travaillé sur un projet qui propose un service de réponse aux questions relatives au droit du travail.
Le conseil juridique est un processus qui consiste à comprendre la situation du conseiller et à parvenir à une conclusion sur la manière de résoudre l'affaire en se basant sur le système logique établi par la loi.
Par conséquent, la réponse de LLM dans le cadre du projet a été conçue pour ① comprendre la situation de l'utilisateur, ② expliquer le contenu des dispositions légales pertinentes, ③ expliquer comment la loi peut être appliquée à la situation de l'utilisateur et ④ résumer la conclusion.
Cependant, le client a souligné que le format de génération de la réponse, où la conclusion est placée à la fin de la réponse, est peu pratique car l'utilisateur doit d'abord lire beaucoup de texte pour comprendre la conclusion, et a demandé qu'il soit modifié pour adopter un format de génération de réponse où la conclusion est d'abord créée sous forme de résumé et l'explication est placée ensuite.
… La consultation juridique est une tâche qui nécessite une réflexion logique pour parvenir à une conclusion à travers les étapes suivantes : ① établir les faits, ② sélectionner les dispositions légales pertinentes, ③ examiner si les dispositions s’appliquent et ④ tirer une conclusion.
Cependant, demander au modèle de déduire immédiatement la conclusion ④ pour un tel contenu nécessite un niveau d'inférence plus difficile que l'inférence étape par étape, donc le taux de réponse correcte final sera forcément plus faible.
Par conséquent, si vous commencez par un résumé pour une réponse en deux parties, il y a plus de chances que celle-ci soit erronée car elle exige un raisonnement plus poussé.
…
C’est pourquoi la technique CoT (Chain of Thought), une méthode d’aide qui décompose le raisonnement en étapes logiques et guide le modèle dans la génération d’un contenu dont l’inférence est relativement aisée, étape par étape, pour parvenir à une conclusion, contribue à améliorer la précision du modèle. Le modèle Deepseek R1, qui a récemment fait l’objet de discussions, améliore également la précision des inférences de cette manière.

--- pp.132-134

Le slogan « La compétence fondamentale de l'IA est désormais l'ingénierie du contexte, et non la simple incitation » présuppose fondamentalement l'utilisation de modèles puissants, mais des limitations existent encore au niveau actuel, où il est difficile d'affirmer qu'un modèle quelconque ait atteint l'IA générale.
De plus, sur le marché réel, il existe une forte demande pour des modèles à faible nombre de paramètres afin de limiter les coûts de maintenance, et cette demande devrait augmenter à mesure que les modèles deviendront plus sophistiqués.
Dans cette situation, il ne semble pas possible de se soustraire immédiatement à une ingénierie rapide.
Je ne partage donc pas l'avis selon lequel une ingénierie rapide n'est plus importante.
Cependant, je ne pense pas que l'importance des capacités d'ingénierie contextuelle soit surestimée.
En définitive, je crois que les ingénieurs en charge des projets d'agents d'IA doivent à la fois avoir la capacité de voir la forêt (capacité d'ingénierie contextuelle) et la capacité de faire pousser les arbres (capacité d'ingénierie réactive).

--- pp.192-193