AI

Jev (TypeSafe AI의 System One 모델)

Jinseung's Blog 2026. 9. 23. 20:19

이번 블로그에서는 최근 큰 주목을 받고 있는 Jev에 대해 알아보는 글을 작성해 보겠습니다.

 

Jev란?

TypeSafe AI가 만든 transformer 기반 모델입니다. LLM처럼 텍스트를 생성하지는 않지만, 상태와 타입이 정해진 질문을 받아 확률과 신뢰도가 붙은 타입 결정값을 돌려주고, 이 값은 코드가 바로 분기에 쓸 수 있습니다.

 

출시 배경과 기본 정보

  • 샌프란시스코 기반 스타트업 TypeSafe AI가 만든 독점 모델로, 2026년 9월 15일 제한적 얼리 액세스로 공개가 되었습니다.
  • 창업자는 Diego Almeida이며, ChatGPT와 RLHF의 공동 개발자로, OpenAI에서 일하다 회사를 세웠습니다.
  • 'System One'이라는 이름은 Daniel Kahneman의 '생각에 관한 생각(Thinking, Fast and Slow)'에서 왔으며, 모델명 Jev는 경제학자 William Stanley Jevons에서 따왔습니다.

 

텍스트 대신 타입 결정값을 반환

기존 LLM 방식과 비교하면 다음과 같습니다. 일반 언어 모델은 문자열을 생성하고, 소프트웨어가 그 문자열을 파싱·검증한 뒤 행동을 정합니다. 그와 달리 Jev는 애플리케이션 상태와 답의 공간이 미리 정의된 질문을 받아 답을 타입 구조로 바로 돌려주게 됩니다.

 

API 구조 (3가지 질문 타입)

엔드포인트는 POST https://api.typesafe.ai/v1/systemone 하나이고, 요청 본문에 state, model, questions 맵을 담습니다.

타입 묻는 것 반환값
Choice 목록에서 하나 선택 choice, probabilities, confidence
Score 순서 있는 등급으로 평가 score, probabilities, confidence
Noul 이 진술이 참인가? 0~1 확률

 

Confidence (모델의 핵심 산출물)

  • Confidence(신뢰도)
    • Choice와 Score 결과에는 0~1 사이의 confidence 값이 함께 제공됩니다.
    • 이 값은 단순히 1위 답변의 확률만 보는 것이 아니라, 전체 확률 분포가 얼마나 한쪽에 몰려 있는지를 바탕으로 계산됩니다.
    • 예를 들어 billing이 0.84로 1위이고 technical이 0.159라면, 1위가 압도적으로 확실한 상황은 아니므로 confidence는 0.596으로 낮아질 수 있습니다.
  • 권장 운영 방식
    • 높은 신뢰도 → 자동으로 바로 실행
    • 중간 신뢰도 → 사람이 결과를 검토한 후 실행
    • 낮은 신뢰도 → 자동 실행하지 않고 사람에게 전달
    • 신뢰도 임계값(threshold)은 잘못된 판단이 발생했을 때의 비용과 위험에 따라 설정합니다.

 

가격과 성능

  • 입력 토큰 100만 개당 $0.042이고 출력은 무료입니다. 응답 시간은 70~500ms라고 밝혀져 있습니다.
  • TypeSafe는 193.6배 빠르고 444.6배 저렴하다고 주장하며, 이 수치는 자체 워크플로 평가에서 나온 것입니다.

 

예시 코드

# SDK 설치 (Python 3.10+) / JS SDK는 @typesafe-ai/sdk
pip install typesafe-sdk
export TYPESAFE_API_KEY=...
from typesafe_sdk import Choice, Noul, TypeSafeClient

client = TypeSafeClient()
r = client.system_one(
    state=ticket_text,
    questions={
        "team": Choice(
            instructions="이 티켓을 처리할 팀",
            criteria={"billing": "결제 문제", "technical": "버그"},
        ),
        "urgent": Noul(instructions="메시지가 긴급함을 전달한다"),
    },
)
ans = r.answers["team"]
if ans.confidence > 0.8:
    route(ans.choice)      # 자동 처리
else:
    send_to_human(ticket_text)  # 사람 검토

 

이것으로 Jev (TypeSafe AI의 System One 모델)에 대한 글을 마치겠습니다. 감사합니다!