Azure OpenAI에서 gpt-4o 모델 배포 및 API 사용하기(chat,vision)
Today Keys : gpt-4o, api, model, chat, completion, vision, multi, modal, omni, chatgpt 이번 주에 진행된 Microsoft의 연례 개발자 대상의 컨퍼런스인 Build가 시작하면서, gpt-4o 모델에 대한 API를 Azure OpenAI에서 사용 할 수 있도록 GA 되었습니다. 이번 포스팅에서는 Azure OpenAI를 사용하여 gpt-4o 모델을 배포하고, 배포된 gpt-4o 모델을 API를 통해서 Chat과 Vision에 대한 사용을 해봅니다. Azure OpenAI Studio에서 gpt-4o 배포를 위해 모델 메뉴로 들어갑니다. 모델 메뉴에 들어오면 해당 리전에서 사용 가능한 모델 리스트를 확인 할 수 있습니다. gpt-..
Azure OpenAI - GPT-4o Playground 사용하기
지난 5월 13일 OpenAI에서 오디오, 비전, 텍스트를 실시간으로 추론할 수 있는 새로운 플래그쉽 모델인 GPT-4o('o' 혹은 'omni')를 공개했습니다. GPT-4o의 주요 특징은 다음과 같습니다. 다양한 입력 및 출력 형식 GPT-4o는 텍스트, 오디오, 이미지, 비디오의 조합을 입력으로 받아들일 수 있으며, 텍스트, 오디오, 이미지 출력을 생성할 수 있습니다. 오디오 입력에 대한 응답 속도는 최저 232 밀리초, 평균 320 밀리초로, 인간의 대화 응답 시간과 유사합니다. 성능 및 비용 효율성 GPT-4o는 텍스트 처리 성능에서 GPT-4 Turbo와 동등한 수준을 유지하면서도, 비영어 텍스트 처리 성능이 크게 향상되었습니다. 또한, API 사용 시 속도가 두 배 빠르고 비용이 50% 저..
Azure Arc에 AWS EKS 클러스터 등록하기
Today Keys : Arc, hybrid, multi, cloud, 하이브리드, 멀티 , kubernetes, cluster, 클러스터, 쿠버네스, 애저, azure 이번 포스팅은 AWS EKS 클러스터를 Azure Arc에 등록하는 예제입니다. Azure에서는 Azure의 하이브리드, 멀티클라우드 전략(?)인 Azure Arc를 이용해서, 온프레미스, 클라우드, 엣지 등의 모든 인프라 환경의 광범위한 자원을 Azure에서 관리할 수 있도록 합니다. 이러한 관리 자원은 Windows, Linux 서버, SQL 서버 뿐 아니라, Kubernetes 클러스터도 포함됩니다. Azure Arc를 통해서 Azure의 Kubernetes 클러스터 뿐 아니라, AWS의 EKS나 , GCP의 GKE를 포함한 모든 ..
Hybrid Cloud / Multi Account - DNS
Today Keys : route53 , resolver , dns , hybrid , cloud , multi , account , domain , 리졸버 , 도메인 , 하이브리드 , 클라우드 이번 포스팅은 AWS에서 Hybrid와 Multi Account 운영 시에 필요할 수 있는 상호 간의 도메인 질의에 대해서 알아봅니다. Route53 Resolver을 이용하면, Hybrid와 Multi Account 운영 시의 도메인 질의를 손쉽게 할 수 있도록 도와줍니다. Hybrid와 Multi Account 간의 DNS 질의 Route53 Resolver를 통한 Hybrid 질의 지원 ▪ AWS와 On-Premise 서비스가 AWS DNS, On-Premise DNS에 등록된 도메인에 대해 질의가 필요할 ..
Azure - Azure Arc Part 1
Today Keys : Azure, arc, ignite, management, hybrid, multi, cloud, 관리, 통합, 하이브리드, 멀티, infrastructure 이번 포스팅은 현재 올랜도에서 진행되고 있는 Azure Ignite에서 공개된 Azure Arc에 대한 포스팅입니다. Azure Arc에 대한 정리 포스팅은 별도의 포스팅으로 다시 진행 할 예정이며, 이번 포스팅에서는 Azure Arc에 Azure의 가상 머신과 AWS의 가상 머신을 연동하는 예제만 다룹니다. Azure Arc에 대한 사용 예제도 정리포스팅과 마찬가지로 추후 포스팅에서 추가로 다룰 예정입니다. Azure Arc ( Azure services and management to any infrastructure' )..
