6강 -변환기와 대형 언어 모델(LLM)

원저자：Luis R Soenksen

원본 소스：https://www.youtube.com/embed/2nu-csmHvSc

이 강의에서는 ChatGPT, Claude, Gemini, Llama 및 다양한 다중 모드 기반 모델과 같은 최신 AI 시스템을 지원하는 딥 러닝 아키텍처인 Transformers 및 LLM(대형 언어 모델)을 살펴봅니다. 먼저 자동 회귀, 자동 인코딩 및 인코더-디코더 아키텍처를 포함한 주요 언어 모델 제품군을 소개하고 BERT 및 GPT와 같은 초기 변형 모델에서 오늘날의 대규모 다중 모드 시스템에 이르기까지 LLM의 급속한 발전을 추적합니다. 그런 다음 강의에서는 단순히 모델 크기를 늘리는 것 이상으로 확장, 명령 조정, 강화 학습, 검색 확대 및 시스템 엔지니어링이 LLM 기능을 어떻게 변화시켰는지 살펴봅니다. 강의 후반부에서는 토큰 임베딩, 위치 인코딩, self-attention, QKV(Query-Key-Value) 벡터, 스케일링된 내적 주의, 다중 헤드 주의, 잔여 연결, 레이어 정규화, 피드포워드 네트워크 및 GPT 스타일 변환기 블록을 설명하면서 Transformer 아키텍처에 대한 직관적이면서도 엄격한 연습을 제공합니다. 시각적 예시와 수학적 공식을 통해 학생들은 변환기가 상황별 표현을 구축하고 다음 토큰 예측을 수행하는 방법에 대한 엔지니어링 수준의 이해를 발전시킵니다. 마지막으로 동일한 아키텍처가 자연어를 넘어 생물의학 텍스트, 전자 건강 기록(EHR), 생물학적 시퀀스, 의료 영상, 그래프 및 다중 모드 의료 애플리케이션으로 어떻게 확장되는지 살펴보는 동시에 환각, 모델 정렬, 안전성, 해석 가능성, 의학 및 세계 보건 분야의 책임 있는 배치와 같은 실질적인 고려 사항을 논의합니다. #AI #인공지능 #기계학습 #딥러닝 #Transformers #대언어모델 #LLM #GPT #ChatGPT #Attention 메커니즘 #SelfAttention #GenerativeAI #FoundationModels #NaturalLanguageProcessing #NLP #BiomedicalAI #MedicalAI #HealthcareAI #ClinicalAI #ElectronicHealthRecords #생물정보학 #계산생물학 #VisionTransformer #MultimodalAI #AIE교육 #대학원과정 #AIInMedicine #GlobalHealth #의료교육 #기계학습과정