Azure OpenAI에서 gpt-4o 모델 배포 및 API 사용하기(chat,vision)
Today Keys : gpt-4o, api, model, chat, completion, vision, multi, modal, omni, chatgpt 이번 주에 진행된 Microsoft의 연례 개발자 대상의 컨퍼런스인 Build가 시작하면서, gpt-4o 모델에 대한 API를 Azure OpenAI에서 사용 할 수 있도록 GA 되었습니다. 이번 포스팅에서는 Azure OpenAI를 사용하여 gpt-4o 모델을 배포하고, 배포된 gpt-4o 모델을 API를 통해서 Chat과 Vision에 대한 사용을 해봅니다. Azure OpenAI Studio에서 gpt-4o 배포를 위해 모델 메뉴로 들어갑니다. 모델 메뉴에 들어오면 해당 리전에서 사용 가능한 모델 리스트를 확인 할 수 있습니다. gpt-..
Azure OpenAI Assistant - Part 3
Today Keys : azure, openai, assistant, service, function, calling, 함수, 호출, api 이번 포스팅에서는 Azure OpenAI Service의 Assistant 기능에 대한 사용법에 대해서 알아봅니다. 첫 번째와 두 번째 포스팅에서는 Azure Open AI Assistant의 Code Interpreter을 사용해 보는 것을 알아보았고, 이번 포스팅에서는 Azure Open AI Assistant의 또 다른 기능인, Function Calling 사용하는 예제를 살펴봅니다. Azure OpenAI를 사용하기 위한 서비스를 생성합니다. 먼저 각자의 Azure Open API Key와 Endpoint를 설정하고, API Version은 Azure Op..
Reflex (pynecone) - Part 2 (설치 및 Self hosting)
Today Keys :reflex, python, pynecone, init, run, project, hosting, self, api, url 이번 포스팅은 순수 Python으로 웹 앱을 손쉽게 만들 수 있게 해주는 Full Stack Framework 인, Reflex는 2022년 11월에 Pynecone이라는 이름으로 공개된 프로젝트이며, 2023년 6월에 Reflex라는 이름으로 프로젝트 명이 변경되었습니다. 이번 포스팅에서는 Reflex를 설치하고, 이후에 Demo Site 실행 및 변경하고, Self hosting까지 진행하는 포스팅입니다. Reflex를 위한 필수 구성 요소? ▪ Python 3.7 이상 ▪ NodeJS 16.8.0 이상 본 Demo 환경 Reflex 설치 - Reflex는..
Amazon VPC Lattice - Part 8 : Control/Data Plane, Link-Local 등
Today Keys : aws,vpc, lattice, network, service, control, data, plane, api, link-local 이번 포스팅은 서로 다른 VPC 및 AWS 계정에 걸쳐 서비스 간의 네트워크 연결 및 애플리케이션 계층 라우팅을 자동으로 관리해주는 Amazon VPC Lattice에 대한 여덟 번째 포스팅입니다. 여덟 번째 포스팅에서는 VPC Lattice에 대한 기존 포스팅에서 다루지 않았던, VPC Lattice와 관련된 이런 저런 내용들을 짧게 짧게 다뤄 봅니다. 전반적으로 어떻게 VPC Lattice Service와 통신을 하게 되며, 네트워크 보안 정책이 어떻게 적용되는지에 대한 내용과 VPC Lattice Service에 접근하는 Client를 확인하는 ..
AWS - API Gateway 기반 VPC Link
Today Keys : API , gateway , vpc , link , 게이트웨이 , nlb , aws , 링크 , 연결 , 가용 이번 포스팅은 AWS API Gateway에서 VPC 내부의 서비스를 호출하기 위해서 사용 할 수 있는 VPC Link에 대한 예제 포스팅입니다. 사실 VPC Link를 이용하면, NLB에 대한 Target 지정에 따라 인터넷에 노출된 API Gateway를 이용해서 VPC 내부의 서비스 뿐만 아니라, On-Premise 서비스도 호출이 가능합니다. 오늘 포스팅에서 다루게 될 VPC Link 예제에 대한 구성입니다. VPC 내에 ec2 2대로 각각 SVR#1, 2를 구성하고 각각의 웹서버를 띄웁니다. NLB에서는 각 서버에 대해서 80, 8080으로 리스너를 만들고 이렇게..