| <colbgcolor=#387dd8,#387dd8><colcolor=#fff,#fff> Laya | |
| 분류 | 인공지능 의사결정 모델, System 1 모델 |
| 개발사 | Convai Innovations |
| 출시일 | 2026년 9월 |
| 최신 버전 | laya 0.3.3 |
| 입력 | 텍스트, 이메일, 티켓, JSON 문서 |
| 출력 | 선택(choice), 점수(score), 참일 확률(noul), 보정된 확신도 |
| 라이선스 | Apache License 2.0 (모델 가중치 및 코드 공개) |
| 링크 | |
1. 개요
Convai Innovations가 공개한 인공지능 의사결정 모델군. 개발진은 Jev와 마찬가지로 이를 System 1 모델이라 부른다.일반적인 대규모 언어 모델이 사람이 읽을 문장을 생성하는 것에 중점을 두는 것과 달리, Laya는 판단 대상과 질문 양식을 받아 선택, 점수, 참일 확률과 같은 판단 결과와 확신도를 반환한다. 철저히 사유소프트웨어로 API 형식으로만 제공되는 Jev와 달리 영어용, 다국어용, 업무 특화용 세 가지 체크포인트 및 관련 코드를 통째로 Apache 2.0 라이선스로 공개하여 자체 서버에 올려 쓰거나 업무 데이터로 직접 미세조정하는 것도 가능하다.
2. 등장 배경
개발진에 따르면 Laya의 출발점은 2025년 3월 공개한 판매 대화 의사결정 모델로, 시퀀스 표현에 강화학습을 적용해 대화 턴별 전환 확률을 0.0~1.0으로 출력하는 구조였다. 이때 arXiv 논문과 모델 가중치, 학습 데이터셋, PyPI 패키지를 모두 공개하고 관련 접근법을 Reddit에도 공유했으며, 2025년 9월에는 이를 강화학습이 이끄는 스키마 기반 의사결정 프레임워크로 정식화한 후속 논문도 냈다.문제는 2026년 9월, OpenAI에서 ChatGPT 공동 발명에 참여한 것으로 알려진 Diogo Almeida가 설립한 TypeSafe AI가 거의 같은 개념의 Jev를 내놓으면서 시작됐다. Jev는 기술 논문이나 공개 가중치, 학습 데이터셋 없이 출시됐는데, 개발진 입장에서는 자신들이 먼저 다뤘던 개념을 자신들이 직접 제시한 새롭고 혁신적인 개념의 모델처럼 소개하고 바이럴시키는 모습이 매우 불만이었던 듯하다. 여기에 대한 반발로, 개발팀은 Laya를 전격 오픈소스로 공개하였다.
3. 작동 방식
사용자가 판단시킬 내용은 원문 텍스트, 이메일, 티켓, JSON 문서 등 state로 입력받는다. Laya는 아래 3가지 판단 기본형 중 필요한 것을 조합해 한 번의 순전파로 여러 유형의 질문을 동시에 평가한다.- Choice
- 기준 사전에서 하나의 선택지를 고르는 질문. 선택한 키와 전체 선택지의 확률 분포, 보정된 확신도가 함께 반환된다.
- Score
- 0, 1, 2 등 순서형 평가 척도에서 상태를 평가하는 질문. 기대 수준과 각 등급의 확률 분포, 확신도가 반환된다.
- Noul
- 참/거짓을 묻는 질문에 대해 참일 확률 P(true)를 0.0~1.0 사이 값으로 반환한다. P(false) = 1 - P(true)가 구조적으로 성립한다.
출력이 확률과 숫자로만 제한되기 때문에 텍스트를 생성하지 않으며, 이 구조 덕분에 인공지능 환각이나 스키마 위반, 잘못된 JSON 출력이 나오기 어렵다는 장점을 가진다.
4. 모델 구성
Laya는 용도가 다른 세 가지 체크포인트로 구성되며, 모두 Hugging Face의 단일 저장소에 묶여 있어 SDK가 필요한 하위 폴더만 골라서 내려받을 수 있다. 전체 2.5GB를 전부 받을 필요 없이 각각 808MB, 647MB인 영어 모델과 다국어 모델만 받는 것도 가능하다.| 체크포인트 | 기반 인코더 | 매개변수 | 문맥 길이 | 주요 용도 |
| Laya (영어용) | ModernBERT-large | 421M | 512 | 영어 분류, 가드레일, 이메일 분류 |
| Laya Multilingual | mmBERT-base (256k 어휘) | 322M | 1,024 (최대 8k) | 100개 이상 언어, 언어 간 자연어 추론 |
| Laya Typed Decisions | ModernBERT-large | 421M | 1,024 | 에이전트 관측, 고객 서비스, 청구서 처리, 보안 경보 |
영어가 아닌 문자 체계로 텍스트가 들어오면 영어 체크포인트의 정확도가 크게 떨어지는 탓에, Laya는 순수 Python으로 짠 Router를 함께 제공한다. Router는 22개 문자 체계와 라틴 문자 불용어 분포를 분석해 순전파 전에 사용할 체크포인트를 자동으로 골라주며, 일반 영어 텍스트는 0.09ms, 데바나가리 등 인도계 문자는 0.54ms 정도의 탐지 지연만 발생한다고 한다. Router를 미리 로드해두면 언어가 번갈아 들어올 때 생기는 7~10초의 콜드 스왑 지연도 없앨 수 있다.
5. 특징
- 여러 유형의 질문을 동시에 평가할 수 있어, 생성형 LLM을 반복 호출하는 것보다 빠르다.
- 지원 티켓 부서 배정, 피싱·스팸 판별, 탈옥·프롬프트 주입 탐지, 0~3단계 긴급도 평가처럼 긴 답변보다 빠른 판단이 필요한 작업에 쓰기 용이하다.
- 모델 가중치와 코드를 Apache 2.0으로 전부 공개하여 API 사용료 없이 자체 서버에서 돌릴 수 있고, 외부망과 분리된 환경에서도 쉽게 운용이 가능하다.
- 파인튜닝이 가능하며, Kaggle 무료 GPU로 약 4시간이면 맞춤형 모델을 학습할 수 있을 정도로 가볍다.
- 오직 네트워크를 통해 API를 써야 쓸 수 있는 Jev와 달리 로컬 실행이 가능하다 보니 오히려 지연시간이 적고 더 빠르다.
- 파인튜닝이 가능하다는 특징 때문에 범용적인 모델만 사용해야 하는 Jev와 달리 분야와 데이터만 잘 정하면 Jev에 비해 훨씬 더 좋은 성능을 뽑을 수 있다.
6. 한계
- 선택지가 20개를 넘으면 choice 성능이 눈에 띄게 떨어진다. 77개 분류인 Banking77 벤치마크에서 정확도 0.425를 기록해 Jev의 0.870보다 한참 낮았는데, 선택지들이 192~256 토큰의 head_max_len 예산을 나눠 쓰는 구조적 제약 때문이다. 선택지를 20개 미만으로 유지하거나, 큰 범주를 먼저 고르고 세부 범주를 고르는 2단계 구조를 쓰는 것이 권장된다.
- 미세조정하지 않은 기본 모델은 typed-decisions 벤치마크에서 무작위 수준에 가까운 0.35 정도의 정확도가 나오기도 한다. 흔히 언급되는 정확도 0.766은 해당 벤치마크의 학습 분할로 미세조정한 결과이므로, 범용 제로샷 정답기보다는 업무별로 특화시켜 쓰는 기반 모델로 보는 것이 더 적절하다.
7. Jev와의 비교
| 항목 | Jev 1.13.0 | Laya (라우팅 적용) |
| typed-decisions 2,000개 판단 정확도 | 0.727 | 0.766 |
| AG News 4개 분류 정확도 | 0.910 | 0.950 |
| DAIR Emotion 6개 분류 정확도 | 0.480 (Brier 0.846) | 0.595 |
| 기대 보정 오차(ECE) | 0.246 | 0.081 |
| 단일 질문 중앙값 지연 시간 | 236~276ms | 32.8ms |
| 질문 10개 배치 처리 지연 시간 | 약 1,500ms(순차) | 72.3ms(7.2ms/질문) |
| 토큰 비용 | 100만 입력 토큰당 0.042달러 | 자체 호스팅 시 무료 |
| 가중치·코드 공개 여부 | 비공개(종량제 API) | Apache 2.0 공개(safetensors) |
표에 따르면 Laya가 정확도와 확률 보정, 지연 시간에서 전부 앞서는데, 특히 단일 질문 지연 시간은 약 7.8배, 10개 질문을 배치로 처리할 때에는 약 20배 차이가 난다.
오픈소스 모델이기에 파인튜닝 방식, 정도와 데이터에 따라 벤치마크 수치가 크게 바뀔 수 있다.
8. 평가와 반응
Jev 출시 직후 이에 대한 대응 성격으로 공개된 오픈소스 모델이라는 점에서 주목을 받았다. 논문과 가중치, 코드, 학습 데이터셋을 전부 공개했다는 점이 비공개 API로만 운영되는 Jev와 대비되면서 오픈소스 커뮤니티에서 큰 환영을 받았다. 이후 HackerNews, X 등 다양한 매체를 통해 인지도를 쌓게 되었다.한편 개발진이 자체적으로 발표한 벤치마크 수치에 의존하고 있다는 점, Jev와 달리 아직 대규모 실사용 사례가 많지 않다는 점을 지적하는 시각도 있다.