Azure에서 중첩 가상화(Nested Virtualization) 사용하기
Today Keys : 중첩 가상화, 중첩, 가상화, Nested, Virtualization, azure, hyper-v, hypervisor,Intel vt-x, amd-v 중첩 가상화(Nested Virtualization) - Hyper-V VM(가상 머신) 내에서, Hyper-V 혹은 타사 Hypervisor와 같이 가상화를 실행할 수 있는 기능 - Intel VT-x 및 AMD-V와 같은 프로세스의 하드웨어 기반 가상화 기술 필요. Azure에서 중첩 가상화(Nested Virtualization) 지원 가상 머신 - Dv, Ev 시리즈 가상머신 - 상세 지원은 Azure의 Virtual Machine 문서에서 Type별, Feature support 확인 https://lear..
Azure OpenAI Assistant - Part 4 (File Search)
Today Keys : azure, openai, assistant, file search, tool, rag, 도우미, 파일 검색, 증강, 검색이번 포스팅에서는 Azure OpenAI Service의 Assistant 기능에 대한 사용법에 대해서 알아봅니다.Azure OpenAI Assistant의 네 번째 포스팅에서는 최근에 Preview로 추가된 File Search tool에 대해서 간단히 알아보고, Assistant 의 File Search 예제를 살펴봅니다. File Search ▪ 모델 외부 지식(File)을 추가하여, Assistant의 성능을 강화 - 추가한 File 내용을 검색하여, Assistant가 답변을 할 수 있도록 함. (RAG를 서비스화) ▪ 파일이 V..
Azure OpenAI에서 gpt-4o 모델 배포 및 API 사용하기(chat,vision)
Today Keys : gpt-4o, api, model, chat, completion, vision, multi, modal, omni, chatgpt 이번 주에 진행된 Microsoft의 연례 개발자 대상의 컨퍼런스인 Build가 시작하면서, gpt-4o 모델에 대한 API를 Azure OpenAI에서 사용 할 수 있도록 GA 되었습니다. 이번 포스팅에서는 Azure OpenAI를 사용하여 gpt-4o 모델을 배포하고, 배포된 gpt-4o 모델을 API를 통해서 Chat과 Vision에 대한 사용을 해봅니다. Azure OpenAI Studio에서 gpt-4o 배포를 위해 모델 메뉴로 들어갑니다. 모델 메뉴에 들어오면 해당 리전에서 사용 가능한 모델 리스트를 확인 할 수 있습니다. gpt-..
Azure OpenAI - GPT-4o Playground 사용하기
지난 5월 13일 OpenAI에서 오디오, 비전, 텍스트를 실시간으로 추론할 수 있는 새로운 플래그쉽 모델인 GPT-4o('o' 혹은 'omni')를 공개했습니다. GPT-4o의 주요 특징은 다음과 같습니다. 다양한 입력 및 출력 형식 GPT-4o는 텍스트, 오디오, 이미지, 비디오의 조합을 입력으로 받아들일 수 있으며, 텍스트, 오디오, 이미지 출력을 생성할 수 있습니다. 오디오 입력에 대한 응답 속도는 최저 232 밀리초, 평균 320 밀리초로, 인간의 대화 응답 시간과 유사합니다. 성능 및 비용 효율성 GPT-4o는 텍스트 처리 성능에서 GPT-4 Turbo와 동등한 수준을 유지하면서도, 비영어 텍스트 처리 성능이 크게 향상되었습니다. 또한, API 사용 시 속도가 두 배 빠르고 비용이 50% 저..
Azure OpenAI Assistant - Part 3
Today Keys : azure, openai, assistant, service, function, calling, 함수, 호출, api 이번 포스팅에서는 Azure OpenAI Service의 Assistant 기능에 대한 사용법에 대해서 알아봅니다. 첫 번째와 두 번째 포스팅에서는 Azure Open AI Assistant의 Code Interpreter을 사용해 보는 것을 알아보았고, 이번 포스팅에서는 Azure Open AI Assistant의 또 다른 기능인, Function Calling 사용하는 예제를 살펴봅니다. Azure OpenAI를 사용하기 위한 서비스를 생성합니다. 먼저 각자의 Azure Open API Key와 Endpoint를 설정하고, API Version은 Azure Op..
