lgvv98

온디바이스 기반 모델에 대한 프롬프트 디자인 및 안전성 살펴보기 (Explore prompt design & safety for on-device foundation models) - WWDC25 생성형 AI를 매우 흥미로운 기술로 핵심 과제는 다양한 실제 상황에서도 앱 사용자에게 잘 작동하는 강력한 경험을 만드는 것.이번 영상에서는 이런 경험을 만드는데 도움이 되는 가이드라인을 제시함.개발자, 디자이너, 기획자 등 모두에게 도움이 되는 세션 프롬프트는 생성형 AI 모델에 입력해 응답을 이끌어 내기 위한 텍스트 내용자연어로 작성하고, Apple Intelligence에서 지원하는 모든 언어로 입력 가능함. Foundation Models 사용하면 프롬프트가 온디바이스 LLM으로 전송됨.LLM은 추론..

Foundation Models 프레임워크 자세히 알아보기 (deep dive into the Foundation Models framework) -wwdc25 파운데이션 모델 프레임워크가 온디바이스 LLM에 대해서 직접적인 접근성과 편리한 Swift API를 제공하며 애플 생태계에서 지원하는 모든 기기에서 동작함. 세션에서 수행해야 할 일을 모델에 알릴 수 있으며, 프롬프트는 사용자의 입력을 활용하면 됨. 파운데이션 모델이 텍스트를 생성하는 방법과 주의해야 할 점을 자세히 알아볼 예정.세션에서 respond(to: )를 호출하면 먼저 세션의 명령어와 프롬프트를 가져옴(프롬프트는 여기서 사용자의 입력)그러면 텍스트가 토큰으로 변환됨.토큰은 작은 서브스트링으로 때로는 단어이지만 보통 몇 개의 문자만으..