뉴스/정보
Lamini Memory Tuning 소개: 95% LLM 정확도, 10배 적은 환각 기술 발표
작성자
작성일
2024-07-04 12:10
조회
798
https://www.lamini.ai/blog/lamini-memory-tuning
Lamini Memory Tuning은 LLM에 사실을 내장 하는 새로운 방식으로 , 사실적 정확성을 개선하고 환각을 이전에는 달성할 수 없었던 수준으로 줄입니다. Fortune 500 고객 중 한 명인 Lamini Memory Tuning은 다른 접근 방식에서는 50%였던 것에 비해 95%의 정확도를 달성했습니다. 환각은 50%에서 5%로 감소했습니다.
라미니 메모리 튜닝은 AI 세계의 표면상의 역설 , 즉 LLM을 원래부터 가치 있게 만드는 일반화 기능을 유지하면서도 정확한 사실적 정확성(즉, 환각 없음)을 달성하는 획기적인 연구 입니다.
이 방법은 Llama 3 또는 Mistral 3와 같은 오픈소스 LLM 위에 정확한 사실을 가진 수백만 개의 전문가 어댑터(예: LoRA)를 튜닝하는 것을 수반합니다. 목표가 로마 제국 사실을 정확히 얻는 것이라면 Lamini Memory Tuning은 Caesar, 수로, 군단 및 귀하가 제공하는 다른 사실에 대한 전문가를 생성합니다. 정보 검색에서 영감을 얻은 이 모델은 추론 시간에 인덱스에서 가장 관련성 있는 전문가만 검색합니다. 모든 모델 가중치가 아니므로 대기 시간과 비용이 극적으로 낮아집니다. 높은 정확도, 빠른 속도, 낮은 비용 : Lamini Memory Tuning을 사용하면 선택할 필요가 없습니다.
Lamini Memory Tuning은 LLM에 사실을 내장 하는 새로운 방식으로 , 사실적 정확성을 개선하고 환각을 이전에는 달성할 수 없었던 수준으로 줄입니다. Fortune 500 고객 중 한 명인 Lamini Memory Tuning은 다른 접근 방식에서는 50%였던 것에 비해 95%의 정확도를 달성했습니다. 환각은 50%에서 5%로 감소했습니다.
라미니 메모리 튜닝은 AI 세계의 표면상의 역설 , 즉 LLM을 원래부터 가치 있게 만드는 일반화 기능을 유지하면서도 정확한 사실적 정확성(즉, 환각 없음)을 달성하는 획기적인 연구 입니다.
이 방법은 Llama 3 또는 Mistral 3와 같은 오픈소스 LLM 위에 정확한 사실을 가진 수백만 개의 전문가 어댑터(예: LoRA)를 튜닝하는 것을 수반합니다. 목표가 로마 제국 사실을 정확히 얻는 것이라면 Lamini Memory Tuning은 Caesar, 수로, 군단 및 귀하가 제공하는 다른 사실에 대한 전문가를 생성합니다. 정보 검색에서 영감을 얻은 이 모델은 추론 시간에 인덱스에서 가장 관련성 있는 전문가만 검색합니다. 모든 모델 가중치가 아니므로 대기 시간과 비용이 극적으로 낮아집니다. 높은 정확도, 빠른 속도, 낮은 비용 : Lamini Memory Tuning을 사용하면 선택할 필요가 없습니다.
전체 0