본문 바로가기

내 이야기

(602)
Azure OpenAI Structured Outputs Today Key : structured, outputs, azure, openai, ai, 구조화, 출력, chatgpt, gpt이번 포스팅에서는 지난 8월 6일에서 ChatGPT에  추가 된  API에서의 Structured Outputs에 대한 내용입니다. Structured Outputs이 무엇인지 간단하게 살펴보고, 사용 예시를 몇 가지 정리했습니다.Structured outputsStructured outputs는 API를 통해서 ChatGPT 모델 사용 시, 출력 값을 개발자가 사전에 제공한 JSON Schema에 따라 모델이 일관된 형식의 답변을 생성하는 기능입니다. 이를 통해 함수 호출이나, 비정형 데이터에서 구조화돈 데이터 추출, 복잡한 다단계 워크플로우 구축에 활용 가능합니다.  지원..
ChatGPT Search. 미국 시간으로 10월 31일 ChatGPT Search 기능이 공개되었습니다.Introducing ChatGPT search | OpenAI ChatGPT search가 무엇인지를 설명하기 보다는..ChatGPT search를 통해서.. 무엇인지 알아보겠습니다. ChatGPT search가 설명해 주었지만,말 그대로 실시간 웹 검색을 통해서 답변을 하고, 답변에 인용된 검색된 결과의 내용을 함께 제공해 주고 있습니다.  ChatGPT Search에서 사용된 검색엔진은 Bing을 포함해서 추가적인 검색엔진를 사용하는 것으로 보이는 데.. 정확하게 어떤 검색엔진들이 있는지는 모르겠네요.  ChatGPT Search는 chrome extension을 설치해서 사용 할 수도 있습니다. ChatGPT search..
ChatGPT - canvas Today Key : canvas, chatgpt, 글쓰기, 코딩, coding, assistant, openai이번 포스팅에서는 지난 10월 3일에서 ChatGPT에 새롭게 추가 된  canvas 서비스에 대한 내용입니다. canvas는 별도의 서비스는 아니고, 기존 ChatGPT-4o 모델과 함께 동작하면서, 글 작성이나 코딩 작업을 보다 풍부하게 도와 줄 수 있는 기능을 제공합니다.  이번 포스팅에서는 canvas의 주요 특징과 기능, 그리고 이 기능이 제공하는 장점에 대해 알아보고, 코딩 기능에 대한 간단하게 사용해보겠습니다.canvas란 무엇인가요?canvas는 ChatGPT와의  글 작성 및 코딩 프로젝트에 보다 효율적으로 협업할 수 있는 새로운 인터페이스입니다. 사용자는 canvas를 통해 ..
Azure OpenAI Assistant - Part 4 (File Search) Today Keys :   azure, openai, assistant, file search, tool, rag, 도우미, 파일 검색, 증강, 검색이번 포스팅에서는 Azure OpenAI Service의 Assistant 기능에 대한 사용법에 대해서 알아봅니다.Azure OpenAI Assistant의 네 번째 포스팅에서는 최근에 Preview로 추가된  File Search tool에 대해서 간단히 알아보고, Assistant 의 File Search 예제를 살펴봅니다.  File Search  ▪ 모델 외부 지식(File)을 추가하여, Assistant의 성능을 강화        - 추가한 File 내용을 검색하여, Assistant가 답변을 할 수 있도록 함. (RAG를 서비스화)  ▪ 파일이 V..
Azure OpenAI에서 gpt-4o 모델 배포 및 API 사용하기(chat,vision) Today Keys :   gpt-4o, api, model, chat, completion, vision, multi, modal, omni, chatgpt  이번 주에 진행된 Microsoft의 연례 개발자 대상의 컨퍼런스인 Build가 시작하면서, gpt-4o 모델에 대한 API를 Azure OpenAI에서 사용 할 수 있도록 GA 되었습니다.  이번 포스팅에서는 Azure OpenAI를 사용하여 gpt-4o 모델을 배포하고, 배포된 gpt-4o 모델을 API를 통해서 Chat과 Vision에 대한 사용을 해봅니다. Azure OpenAI Studio에서 gpt-4o 배포를 위해 모델 메뉴로 들어갑니다. 모델 메뉴에 들어오면 해당 리전에서 사용 가능한 모델 리스트를 확인 할 수 있습니다. gpt-..
Azure OpenAI - GPT-4o Playground 사용하기 지난 5월 13일 OpenAI에서 오디오, 비전, 텍스트를 실시간으로 추론할 수 있는 새로운 플래그쉽 모델인 GPT-4o('o' 혹은 'omni')를 공개했습니다.  GPT-4o의 주요 특징은 다음과 같습니다. 다양한 입력 및 출력 형식 GPT-4o는 텍스트, 오디오, 이미지, 비디오의 조합을 입력으로 받아들일 수 있으며, 텍스트, 오디오, 이미지 출력을 생성할 수 있습니다. 오디오 입력에 대한 응답 속도는 최저 232 밀리초, 평균 320 밀리초로, 인간의 대화 응답 시간과 유사합니다. 성능 및 비용 효율성 GPT-4o는 텍스트 처리 성능에서 GPT-4 Turbo와 동등한 수준을 유지하면서도, 비영어 텍스트 처리 성능이 크게 향상되었습니다. 또한, API 사용 시 속도가 두 배 빠르고 비용이 50% 저..
Azure Application Gateway(v2) IPv6 지원 GA 작년에 Preview로 출시한, Application Gateway의 IPv6 지원이 '24년 3월 20일자로 GA 되었습니다. IPv4 주소 부족 이슈와, IPv6 Client 지원이 필요한 경우에도 이제 Applicaton Gateway를 통해서 IPv6로 서비스가 가능합니다. 기존의 IPv4 전용 Application Gateway를 IPv4와 IPv6가 모두 가능한 Dual Stack Application Gateway로는 변경이 불가하고, 신규 Application Gateway로 만드셔야 사용이 가능합니다. IPv6 지원이 가능한 Application Gateway를 사용하기 위해서는 IPv4와 IPv6에 대한 서브넷이 모두 있는 Dual Stack VNet을 만들어서 사용해야 합니다. 다만,..
Azure OpenAI Assistant - Part 3 Today Keys : azure, openai, assistant, service, function, calling, 함수, 호출, api 이번 포스팅에서는 Azure OpenAI Service의 Assistant 기능에 대한 사용법에 대해서 알아봅니다. 첫 번째와 두 번째 포스팅에서는 Azure Open AI Assistant의 Code Interpreter을 사용해 보는 것을 알아보았고, 이번 포스팅에서는 Azure Open AI Assistant의 또 다른 기능인, Function Calling 사용하는 예제를 살펴봅니다. Azure OpenAI를 사용하기 위한 서비스를 생성합니다. 먼저 각자의 Azure Open API Key와 Endpoint를 설정하고, API Version은 Azure Op..