OpenAI发布:大型语言模型如何监控自身的不当行为

Communiqué de l'OpenAI : Comment les grands modèles de langage s'autocontrôlent pour éviter les comportements inappropriés

Les grands modèles de raisonnement (LLM) exploitent les vulnérabilités lorsqu'ils en ont l'occasion. La recherche suggère que ces exploits peuvent être détectés en utilisant de grands modèles de langage (LLM) pour surveiller leurs chaînes de pensée (CoT). Punir les modèles pour leurs "mauvaises pensées" n'empêche pas la plupart des comportements erronés...
Il y a 3 mois
04780
GTR 框架:基于异构图和分层检索的跨表问答新方法

Le cadre GTR : une nouvelle approche des questions-réponses entre tables basée sur les graphes hétérogènes et la recherche hiérarchique

1 INTRODUCTION Dans le contexte actuel d'explosion de l'information, une grande quantité de connaissances est stockée sous forme de tableaux dans les pages web, Wikipédia et les bases de données relationnelles. Cependant, les systèmes traditionnels de questions-réponses ont souvent du mal à traiter des requêtes complexes portant sur plusieurs tableaux, ce qui est devenu un défi majeur dans le domaine de l'intelligence artificielle. Pour relever ce défi, les chercheurs ...
Il y a 2 mois
04190
基于LLM的查询扩展 (Query Expansion)

基于LLM的查询扩展 (Query Expansion)

你有没有遇到过这种情况:在搜索引擎里输入一个关键词,结果出来的东西却不是你想要的?或者,你想搜某个东西,但不知道用什么词表达才最准确?别担心,"查询扩展"技术可以帮你解决这些问题。 最近,查询扩展这项...
Il y a 3 mois
03680
GPT-4.1 官方提示工程指南(中文版)

GPT-4.1 Official Tips Engineering Guide (version chinoise)

La famille de modèles GPT-4.1 offre des améliorations significatives en matière de codage, de respect des instructions et de capacités de traitement des contextes longs par rapport au modèle GPT-4o. Plus précisément, ils sont plus performants dans les tâches de génération et de réparation de code, comprennent et exécutent les instructions complexes avec plus de précision et peuvent traiter efficacement des textes d'entrée plus longs...
Il y a 2 mois
03590
九大主流大模型安全框架深度剖析与对比

Analyse approfondie et comparaison de neuf cadres de sécurité de grands modèles courants

Avec le développement rapide et l'application étendue des technologies de modélisation linguistique à grande échelle, les risques potentiels en matière de sécurité sont de plus en plus au centre de l'attention de l'industrie. Afin de relever ces défis, de nombreuses entreprises technologiques, organisations de normalisation et instituts de recherche parmi les plus importants au monde ont élaboré et publié leurs propres cadres de sécurité. Dans ce document, nous analyserons neuf des ...
Il y a 1 mois
03070