풀어 주다: 2026/08/20 09:04 읽다: 0
원저자:AI 雷達站
원본 소스:https://www.youtube.com/embed/31fBird82lk
macOS 메뉴 표시줄에 숨겨진 작은 아이콘은 하루 만에 GitHub에서 별 370개를 받았습니다. Apple Silicon에서 실행되는 로컬 대형 모델 추론 서버인 oMLX(jundot/omlx, Apache 2.0)라고 합니다. 모두가 전달하는 초점은 "Mac이 마침내 로컬 모델을 잘 실행할 수 있게 되었습니다"이지만, 이 비디오가 해체하고 싶은 것은 그 뒤에 있는 움직임입니다. KV 캐시를 두 개의 레이어로 나누고 핫 캐시를 메모리에 유지합니다. 가득 차면 safetensors 형식으로 SSD에 씁니다. 다음에 동일한 컨텍스트가 발견되면 미리 채우기를 다시 계산하지 않고 직접 검색할 수 있습니다. MLX BatchGenerator를 사용한 지속적인 일괄 처리(기본적으로 동시에 8개 요청)와 결합된 OpenAI/Anthropic 호환 인터페이스도 있습니다. 또한 영상에는 각각이 개발자, 콘텐츠 제작자, 일반 사용자에게 나타내는 내용, 향후 3개월 동안의 레이더 관측소의 판단, 직접 추적할 수 있는 세 가지 신호가 정리되어 있습니다. 프로젝트 링크: https://github.com/jundot/omlx 임계값: macOS 15.0+, Apple Silicon (M1–M4), Python 3.11–3.13 #oMLX #localAI #AppleSilicon 이 비디오의 내레이션과 일부 장면은 AI에 의해 생성되었습니다.
Chan Wei Khjan
2026-09-21 04:24
ICON TV - Polars
2026-09-21 04:24
Roz Arai Ch.
2026-09-21 04:24
Levi
2026-09-21 04:24
Kripto Detayı
2026-09-21 04:24
PI News World
2026-09-21 02:35
Bitcoin·老墨
2026-09-21 01:57
America Left Behind
2026-09-21 01:38
Gerhard - Bitcoin Strategy
2026-09-21 01:38
통화 선택
US Dollar
USD
Chinese Yuan
CNY
Japanese Yen
JPY
South Korean Won
KRW
New Taiwan Dollar
TWD
Canadian Dollar
CAD
Euro
EUR
Pound Sterling
GBP
Danish Krone
DKK
Hong Kong Dollar
HKD
Australian Dollar
AUD
Brazilian Real
BRL
Swiss Franc
CHF
Chilean Peso
CLP
Czech Koruna KČ
CZK
Singapore Dollar
SGD
Indian Rupee
INR
Saudi Riyal
SAR
Vietnamese Dong
VND
Thai Baht
THB
통화 선택
US Dollar
USD-$
Chinese Yuan
CNY-¥
Japanese Yen
JPY-¥
South Korean Won
KRW -₩
New Taiwan Dollar
TWD-NT$
Canadian Dollar
CAD-$
Euro
EUR - €
Pound Sterling
GBP-£
Danish Krone
DKK-KR
Hong Kong Dollar
HKD- $
Australian Dollar
AUD-$
Brazilian Real
BRL -R$
Swiss Franc
CHF -FR
Chilean Peso
CLP-$
Czech Koruna KČ
CZK -KČ
Singapore Dollar
SGD-S$
Indian Rupee
INR -₹
Saudi Riyal
SAR -SAR
Vietnamese Dong
VND-₫
Thai Baht
THB -฿