List of Best

Hy4는 오픈 모델 선택을 서빙 결정으로 만든다

Hy4 preview는 오픈 모델 비교를 서빙 결정으로 바꿉니다. Tencent의 공식 Hy 연구 페이지는 2026년 8월 28일 날짜이며, 모델 카드는 Hy4 preview를 vLLM 또는 SGLang을 통한 문서화된 경로가 있는 대규모 오픈 웨이트 Mixture-of-Experts 모델로 제시합니다. 그래서 이 릴리스는 출력 품질만이 아니라 배포에 필요한 용량을 평가할 수 있는 모델 선택 담당자에게 의미가 있습니다. 아직 프리뷰이므로 유용한 질문은 측정된 워크로드에 맞는지입니다.

확인된 모델 카드 세부 사항은 이례적으로 구체적입니다. Hy4 preview는 총 파라미터 770B, 토큰당 활성화 49B입니다. 백본은 78개 레이어, 라우팅 전문가 256개와 공유 전문가 1개이며, 토큰당 top-8 라우팅 전문가와 공유 전문가를 사용합니다. 추측 디코딩을 위한 네이티브 MTP 레이어 하나가 있으며 총 10B, 활성화 0.7B 파라미터입니다. Tencent는 어텐션을 IndexCache와 iHC가 있는 Gated DeepSeek Sparse Attention으로 설명합니다. 컨텍스트 길이는 1M, 어휘 크기는 120832입니다.

릴리스는 운영 경로도 제공합니다. 모델 카드는 Apache License 2.0 배지를 보여주고 Hugging Face, ModelScope, GitCode, CNB 링크와 FP8 변형을 포함합니다. Tencent는 vLLM 또는 SGLang을 권장합니다. vLLM 예시는 tencent/Hy4-preview-FP8, --tensor-parallel-size 8, MTP 추측 디코딩, 희소 어텐션 백엔드, --tool-call-parser hy_v4, --reasoning-parser hy_v4, --enable-auto-tool-choice를 사용하고, SGLang 예시는 --tp-size 8을 사용합니다. 이 지침이 쉬운 배포를 보장하지는 않습니다.

Tencent는 Hy4를 소프트웨어 엔지니어링, 오피스/분석, 게임 개발, 과학 연구를 위해 공동 설계했다고 말합니다. 163명의 내부 전문가가 203개 엔지니어링 작업에서 블라인드 비교 평가를 했다고 보고합니다. Hy4 preview는 평균 2.99점, GLM 5.3은 2.92점이며 승률 46.8%, 무승부 12.8%, 패배 40.4%입니다. Kimi K3 대비 Tencent는 2.94점, 승률 51.2%, 무승부 7.9%, 패배 40.9%를 보고합니다. 이 수치는 Tencent의 내부 결과이지 독립 벤치마크가 아닙니다.

입증되지 않은 것은 일반 순위입니다. 제공된 증거는 독립 벤치마크 결과, 지연, 메모리 사용, 처리량, 비용, 또는 그 203개 작업을 넘는 품질을 확립하지 않습니다. 릴리스 세부 사항이 노트북 배포, 특정 하드웨어 구성, 가격, 가용성을 증명하지도 않습니다. Apache License 2.0 배지는 문서화된 모델 카드 라벨이며, 여기서 추가 법적 결론의 근거가 아닙니다.

모델 동작과 운영 부담이 함께 오기 때문에 선택이 바뀝니다. 1M 컨텍스트, MoE 설계, FP8 변형, 네이티브 MTP는 긴 컨텍스트나 통제된 서빙이 중요한 곳에서 시험을 정당화할 수 있습니다. 동시에 총 파라미터 770B와 텐서 병렬 크기 8을 쓰는 예시는 용량과 런타임 복잡성을 결정의 일부로 만듭니다. 이는 공개된 구성에서 나온 추론이지 성능 주장이 아닙니다. 오픈 웨이트를 마찰 없는 능력이 아니라 운영할 후보로 다루십시오.

검증은 재현 가능해야 합니다. 모델과 리비전을 고정하고, 문서화된 vLLM 또는 SGLang 경로를 따르며, 고정된 코딩 및 분석 작업을 실행하십시오. 품질, 지연, 메모리, 처리량, 운영자의 투입 노력을 기존 모델과 비교하고, 실패 사례와 정확한 서빙 구성을 보존하십시오. 유리한 예시만 남기지 말고 복잡한 추론 작업을 포함하십시오. Tencent는 Hy4를 초기 버전이라고 부르며, 복잡한 추론에서 필요 이상으로 오래 걸릴 수 있고 작업을 과도하게 검증하는 경향이 있다고 적습니다. 향후 모델 카드나 서빙 개정과 독립 테스트를 지켜보되, 문서화되기 전까지 개선을 가정하지 마십시오. 지금은 Hy4 preview가 모델 선택을 서빙 경로와 분리할 수 없는 후보입니다.

More in ai

SpaceX 거래 이후 바뀌는 Cursor 모델 맵

OpenAI는 SpaceX 인수 이후 Cursor와의 직접 모델 계약을 단계적으로 종료할 계획이며, 제안된 차단일은 2026년 11월 12일이다. 계약 결과와 마이그레이션 경로는 아직 확인되지 않았다.

ai

← 뉴스 전체 보기