Azure OpenAI Structured Outputs
Today Key : structured, outputs, azure, openai, ai, 구조화, 출력, chatgpt, gpt이번 포스팅에서는 지난 8월 6일에서 ChatGPT에 추가 된 API에서의 Structured Outputs에 대한 내용입니다. Structured Outputs이 무엇인지 간단하게 살펴보고, 사용 예시를 몇 가지 정리했습니다.Structured outputsStructured outputs는 API를 통해서 ChatGPT 모델 사용 시, 출력 값을 개발자가 사전에 제공한 JSON Schema에 따라 모델이 일관된 형식의 답변을 생성하는 기능입니다. 이를 통해 함수 호출이나, 비정형 데이터에서 구조화돈 데이터 추출, 복잡한 다단계 워크플로우 구축에 활용 가능합니다. 지원..
Azure OpenAI Assistant - Part 4 (File Search)
Today Keys : azure, openai, assistant, file search, tool, rag, 도우미, 파일 검색, 증강, 검색이번 포스팅에서는 Azure OpenAI Service의 Assistant 기능에 대한 사용법에 대해서 알아봅니다.Azure OpenAI Assistant의 네 번째 포스팅에서는 최근에 Preview로 추가된 File Search tool에 대해서 간단히 알아보고, Assistant 의 File Search 예제를 살펴봅니다. File Search ▪ 모델 외부 지식(File)을 추가하여, Assistant의 성능을 강화 - 추가한 File 내용을 검색하여, Assistant가 답변을 할 수 있도록 함. (RAG를 서비스화) ▪ 파일이 V..
Azure OpenAI - GPT-4o Playground 사용하기
지난 5월 13일 OpenAI에서 오디오, 비전, 텍스트를 실시간으로 추론할 수 있는 새로운 플래그쉽 모델인 GPT-4o('o' 혹은 'omni')를 공개했습니다. GPT-4o의 주요 특징은 다음과 같습니다. 다양한 입력 및 출력 형식 GPT-4o는 텍스트, 오디오, 이미지, 비디오의 조합을 입력으로 받아들일 수 있으며, 텍스트, 오디오, 이미지 출력을 생성할 수 있습니다. 오디오 입력에 대한 응답 속도는 최저 232 밀리초, 평균 320 밀리초로, 인간의 대화 응답 시간과 유사합니다. 성능 및 비용 효율성 GPT-4o는 텍스트 처리 성능에서 GPT-4 Turbo와 동등한 수준을 유지하면서도, 비영어 텍스트 처리 성능이 크게 향상되었습니다. 또한, API 사용 시 속도가 두 배 빠르고 비용이 50% 저..
Azure OpenAI Assistant - Part 3
Today Keys : azure, openai, assistant, service, function, calling, 함수, 호출, api 이번 포스팅에서는 Azure OpenAI Service의 Assistant 기능에 대한 사용법에 대해서 알아봅니다. 첫 번째와 두 번째 포스팅에서는 Azure Open AI Assistant의 Code Interpreter을 사용해 보는 것을 알아보았고, 이번 포스팅에서는 Azure Open AI Assistant의 또 다른 기능인, Function Calling 사용하는 예제를 살펴봅니다. Azure OpenAI를 사용하기 위한 서비스를 생성합니다. 먼저 각자의 Azure Open API Key와 Endpoint를 설정하고, API Version은 Azure Op..
AWS-Azure간의 VPN 및 BGP 연동
Today Keys : azrue, aws, vpn, connection, customer, local, bgp, asn, as number, network 연동, ipsec 이번 포스팅에서는 AWS와 Azure의 간을 VPN / BGP 구성을 통해서 VPC와 VNet이 Private하게 통신하도록 구성하는 예제를 다룹니다. 기존에도 동일한 주제로 포스팅을 한 적이 있었으나, 메뉴들이 시간이 지나면서 조금씩 바뀌는 듯하여 이번에 테스트를 위해 구성하면서 23년 11월 버전의 AWS와 Azure의 VPN 연동 포스팅을 남겨봅니다. 기본 내용은 AWS의 VGW를 통한 Azure와의 VPN 연동 설정이고, 하단에 AWS의 Transit Gateway를 통한 VPN 설정 방법에 대해서도 설정이 다른 부분만 별도..
