சமீபத்தில், LLM+KG பயன்படுத்தி சிக்கலான தர்க்கரீதியான அனுமானத்திற்கான 2 சிறந்த ஆய்வுக் கட்டுரைகளைப் பார்த்தேன்
சமீபத்தில், LLM+KG பயன்படுத்தி சிக்கலான தர்க்கரீதியான அனுமானத்திற்கான 2 சிறந்த ஆய்வுக் கட்டுரைகளைப் பார்த்தேன்
-
LARK https://arxiv.org/abs/2305.01157 Complex Logical Reasoning over Knowledge Graphs using Large Language Models
-
ROG https://arxiv.org/abs/2512.19092 A Large Language Model Based Method for Complex Logical Reasoning over Knowledge Graphs
I. அறிவு வரைபட அனுமானத்தின் நெருக்கடி
அறிவு வரைபடம் (KG) கட்டமைக்கப்பட்ட அறிவின் முக்கிய கேரியராக, மூன்று முக்கிய சிக்கல்களை எதிர்கொள்கிறது:
- சிக்கலானது: பல-ஹாப் அனுமானம், குறுக்குவெட்டுகள் மற்றும் யூனியன்கள், மறுப்புகள் போன்ற செயல்பாடுகளின் சேர்க்கை வெடிப்பு
- முழுமையற்றது: நிஜ உலக KG பொதுவாக சத்தம் மற்றும் காணாமல் போன தரவைக் கொண்டுள்ளது
- பொதுமைப்படுத்தல்: பாரம்பரிய உட்பொதி முறைகள் தரவுத்தொகுப்புகளுக்கு இடையில் இடம்பெயர்வது கடினம்
Query2Box, BetaE போன்ற பாரம்பரிய தீர்வுகள் வடிவியல் உட்பொதி இடத்தைச் சார்ந்துள்ளன, மேலும் தர்க்கரீதியான செயல்பாடுகளை திசையன்/பெட்டி செயல்பாடுகளாக மாதிரியாகக் கொண்டுள்ளன, ஆனால் ஆழமான அனுமானத்தின் போது தகவல் இழப்பு தீவிரமானது. மாதிரி தர்க்கரீதியான கட்டமைப்பைப் புரிந்துகொண்டு நெகிழ்வாக நியாயப்படுத்துவது எப்படி? பெரிய மொழி மாதிரிகளின் (LLM) எழுச்சி ஒரு புதிய யோசனையை வழங்குகிறது.
படம் 1: LARK இன் வினவல் சங்கிலி சிதைவு மற்றும் LLM அனுமான செயல்முறை. சிக்கலான பல-செயல்பாட்டு வினவல்களை ஒற்றை-செயல்பாட்டு துணை வினவல்களாக உடைத்து படிப்படியாக தீர்க்கவும்.
II. தீர்வு: இரண்டு தலைமுறை முறைகளின் பாரம்பரியம் மற்றும் பரிணாமம்
LARK (2023) - ஒரு முன்னோடி வேலை
படம் 2: 14 வகையான வினவல் வகைகளுக்கான சிதைவு உத்திகள். 3p என்பது 3 திட்டங்களாகப் பிரிக்கப்பட்டுள்ளது, மேலும் 3i என்பது 3 திட்டங்கள் + 1 குறுக்குவெட்டாகப் பிரிக்கப்பட்டுள்ளது.
முக்கிய கண்டுபிடிப்பு: வினவல் சுருக்கம் + தர்க்க சங்கிலி சிதைவு
கூறு வடிவமைப்பு வினவல் சுருக்கம் உருப்படிகள்/உறவுகளை IDகளுடன் மாற்றவும், மாயத்தோற்றத்தை நீக்கவும் மற்றும் பொதுமைப்படுத்தலை மேம்படுத்தவும் அருகாமை மீட்டெடுப்பு k-hop ஆழம்-முதல் தேடல் (k=3), தொடர்புடைய துணை வரைபடத்தை பிரித்தெடுக்கவும் சங்கிலி சிதைவு பல-செயல்பாட்டு வினவல் → ஒற்றை-செயல்பாட்டு துணை வினவல் வரிசை வரிசை அனுமானம் இடைநிலை முடிவுகளை தற்காலிகமாக சேமித்து, தர்க்கரீதியாக ஒழுங்கமைக்கப்பட்ட ஒதுக்கிடங்களை மாற்றவும் முக்கிய நுண்ணறிவு: LLM எளிய வினவல்களில் சிறந்தது, சிக்கலான வினவல்களை சிதைத்த பிறகு செயல்திறன் 20%-33% அதிகரிக்கிறது.
ROG (2025) - மேம்பட்ட பதிப்பு
LARK கட்டமைப்பை மரபுரிமையாகப் பெற்றது, மேலும் ஒரு முகவர் ஒருமித்த பொறிமுறையைச் சேர்த்தது:
ROG = LARK கோர் + பல முகவர் ஒத்துழைப்பு + சிந்தனை சங்கிலி மேம்பாடு
மேம்பாட்டு புள்ளிகள் விளக்கம்
முகவர் வடிவமைப்பு
நுண்ணறிவு = அறிவுத் தளம் + LLM, பல முகவர் ஒருமித்த முடிவு
CoT மேம்பாடு
தெளிவான சிந்தனை சங்கிலி தூண்டுதல் டெம்ப்ளேட்
உள்நாட்டு தழுவல்
ChatGLM+Neo4j அடிப்படையிலானது, மின்சாரம் போன்ற செங்குத்து புலங்களுக்கு நோக்கம் கொண்டது
ROG இன் தரவு ஓட்ட மாதிரி
செயல்திறன் அதிகரிப்பு: FB15k இல், ip வினவலுக்கான (குறுக்குவெட்டுக்குப் பிறகு திட்டம்) MRR 29.3→62.0 இலிருந்து 111% அதிகரித்துள்ளது!
அட்டவணை 1: FB15k தரவுத்தொகுப்பு MRR ஒப்பீடு. ROG முழுமையாக முன்னிலை வகிக்கிறது, மேலும் கலப்பு வினவல்களின் மேம்பாடு மிகவும் குறிப்பிடத்தக்கது.
III. முன்னுதாரண நிறுவுதல் மற்றும் எதிர்கால திசை
இரண்டு தலைமுறை ஆய்வுக் கட்டுரைகளும் ஒரு முன்னுதாரணத்தை கூட்டாக உறுதிப்படுத்துகின்றன:
"மீட்டெடுப்பு மேம்பாடு + வினவல் சிதைவு + LLM அனுமானம்" என்பது KG சிக்கலான தர்க்கரீதியான அனுமானத்திற்கான ஒரு பயனுள்ள பாதையாகும்.
முக்கிய போக்குகள்:
- சுருக்கம் மிகவும் முக்கியமானது - சொற்பொருள் சத்தத்தை அகற்றி, தர்க்கரீதியான கட்டமைப்பில் கவனம் செலுத்துங்கள்
- சிதைவு உத்தி மேல் வரம்பை தீர்மானிக்கிறது - சங்கிலி சிதைவு இறுதி முதல் இறுதி வரை விட நம்பகமானது
- மாதிரி திறன் தொடர்ந்து வெளியிடப்படுகிறது - Llama2-7B இலிருந்து ChatGLM வரை, அடிப்படை முன்னேற்றம் குறிப்பிடத்தக்க ஆதாயங்களைக் கொண்டுவருகிறது
ROG இன் முகவர் பொறிமுறையானது விளக்கத்தை மேம்படுத்தினாலும், முக்கிய கண்டுபிடிப்பு கோட்பாட்டு முன்னேற்றத்தை விட பொறியியல் மேம்பாட்டில் உள்ளது. எதிர்கால திசைகள் பின்வருமாறு இருக்கலாம்: மாறும் சிதைவு உத்திகள் (வினவல் சிக்கலுக்கு ஏற்ப), மல்டிமாடல் KG இணைவு மற்றும் பெரிய அளவிலான திறந்த களம் சரிபார்ப்பு.
