Viime aikoina näin 2 hyvää LLM+KG -tutkimusta monimutkaisesta loogisesta päättelystä

Viime aikoina näin 2 hyvää LLM+KG -tutkimusta monimutkaisesta loogisesta päättelystä

1. LARK https://arxiv.org/abs/2305.01157 Complex Logical Reasoning over Knowledge Graphs using Large Language Models

2. ROG https://arxiv.org/abs/2512.19092 A Large Language Model Based Method for Complex Logical Reasoning over Knowledge Graphs

I. Tietoverkkopäättelyn ongelmat

Tietoverkko (KG) on rakenteisen tiedon keskeinen kantaja, ja siihen liittyy kolme suurta ongelmaa:

• Monimutkaisuus: Monihyppyinen päättely, leikkaus- ja yhdisteet, negaatio jne. aiheuttavat kombinatorisen räjähdyksen
• Puutteellisuus: Todellisen maailman KG:t sisältävät yleisesti kohinaa ja puutteita
• Yleistettävyys: Perinteiset upotusmenetelmät ovat vaikeita siirtää tietokokonaisuuksien välillä

Perinteiset ratkaisut (kuten Query2Box, BetaE) perustuvat geometriseen upotustilaan ja mallintavat loogiset operaatiot vektori-/laatikkolaskutoimituksina, mutta syvässä päättelyssä tiedon menetys on vakavaa. Miten malli voi ymmärtää sekä loogisen rakenteen että päättelyn joustavasti? Suurten kielimallien (LLM) nousu tarjoaa uusia ideoita.

Kuva 1: LARKin kyselyketjun hajotus ja LLM-päättelyprosessi. Monimutkaiset monitoimiset kyselyt jaetaan yksittäisiin alikyselyihin, jotka ratkaistaan vaiheittain.

II. Ratkaisu: Kahden sukupolven menetelmien perintö ja kehitys

LARK (2023) —— Perustamistyö

Kuva 2: 14 kyselytyypin hajotusstrategia. 3p jaetaan 3 projektioksi, 3i jaetaan 3 projektioksi + 1 leikkaukseksi.

Keskeinen innovaatio: Kyselyn abstraktio + loogisen ketjun hajotus

Komponenttisuunnittelu Kyselyn abstraktio Entiteetti-/suhdekorvaus tunnuksilla, hallusinaatioiden poistaminen, yleistettävyyden parantaminen Naapuruston haku k-hop syvyys-ensin-haku (k=3), asiaankuuluvan aliverkon poimiminen Ketjun hajotus Monitoiminen kysely → Yksittäinen alikyselysarja Järjestyksellinen päättely Väliaikaisten tulosten välimuistiin tallentaminen, loogisesti järjestetty Paikkamerkkien korvaaminen Keskeinen oivallus: LLM on hyvä yksinkertaisissa kyselyissä, monimutkaisten kyselyiden hajottaminen parantaa suorituskykyä 20-33%.

ROG (2025) —— Edistynyt versio

Perii LARK-kehyksen, lisää Agent-konsensusmekanismin:

ROG = LARK-ydin + usean agentin yhteistyö + ajatusketjun vahvistaminen

Parannuskohdat Agent-suunnittelu Älykäs agentti = tietokanta + LLM, usean agentin konsensuspäätöksenteko CoT-parannus Selkeämmät ajatusketjun kehotemallit Kotimainen sovitus Perustuu ChatGLM+Neo4j:hin, suunnattu pystysuorille aloille, kuten sähköalalle ROG:n datavirtamalli

Suorituskyvyn parannus: FB15k:ssa ip-kysely (leikkauksen jälkeinen projektio) MRR nousi 29,3→62,0, mikä on 111% parannus!

Taulukko 1: FB15k-tietokokonaisuuden MRR-vertailu. ROG on kokonaisvaltaisesti edellä, ja yhdistelmäkyselyiden parannus on merkittävin.

III. Paradigman vakiinnuttaminen ja tulevaisuuden suunnat

Kaksi tutkimusta yhdessä vahvistavat paradigman:

"Hakuavusteinen + kyselyn hajotus + LLM-päättely" on tehokas tapa KG:n monimutkaiseen loogiseen päättelyyn.

Keskeiset trendit:

• Abstraktio on erittäin tärkeää —— Semanttisen kohinan poistaminen, keskittyminen loogiseen rakenteeseen
• Hajotusstrategia määrittää ylärajan —— Ketjun hajotus on luotettavampi kuin päästä päähän -menetelmä
• Mallin kykyjen jatkuva vapauttaminen —— Llama2-7B:stä ChatGLM:ään, perustan edistyminen tuo merkittäviä etuja

ROG:n Agent-mekanismi parantaa selitettävyyttä, mutta keskeinen innovaatio on tekninen optimointi eikä teoreettinen läpimurto. Tulevaisuuden suunta voi olla: dynaamiset hajotusstrategiat (mukautuva kyselyn monimutkaisuus), multimodaalinen KG-fuusio ja suuremman mittakaavan avoimen verkkotunnuksen validointi.