- AZURE Azure OpenAI Assistant - Part 2 Today Keys : azure, openai, assistant, service, code interpreter 이번 포스팅에서는 Azure OpenAI Service의 Assistant 기능에 대한 사용법에 대해서 알아봅니다. 두 번째 포스팅에서는 첫 번째 포스팅에서 Play Ground를 통해서 사용한 Code Interpreter를 코드를 이용해서 사용해 봅니다. Azure OpenAI를 사용하기 위한 서비스를 생성합니다. 먼저 각자의 Azure Open API Key와 Endpoint를 설정하고, API Version은 Azure Open AI의 Assistant를 지원하는 API 버전인 2024-02-15-preview 버전을 사용합니다. import os import time import ..
- AZURE Azure OpenAI Assistant - Part 1 Today Keys : azure, openai, assistant, service, code interpreter 이번 포스팅에서는 Azure OpenAI Service의 Assistant 기능에 대한 사용법에 대해서 알아봅니다. 첫 번째 포스팅에서는 Play Ground를 통해서 Assistant 기능 중, Code Interpreter 사용해 봅니다. Code Interpreter를 사용하면, Assistants API를 사용하여, 샌드박스 환경에서 Python 코드를 작성하여 실행하게 됩니다. Azure OpenAI Studio의 좌측의 Playground 메뉴를 보면, 다음과 같이 Assistant가 Preview로 추가된 것을 볼 수 있습니다. Assistant는 현재(24.03.01) 3개의..
- IT 엔지니어를 위한 네트워크 로드밸런서(Load Balancer) - Part 3 (부하 분산 알고리즘) Today Keys : 로드밸런서, L4, L7, 부하분산, Load Balancer, Load Balancing, 라운드로빈, Least, connection, 헬스체크, health 본 포스팅은 'IT 엔지니어를 위한 네트워크 입문' [길벗] 서적에 포함된 '12. 로드밸런서'의 내용 중 소개 및 12.4장의 내용입니다 12.3. 헬스 체크 로드 밸런서가 리얼 서버로 부하를 분산할 때,로드 밸런서에서는 사전에 설정한 분산 알고리즘을 통해 부하 분산이 이루어집니다. 이번 절에서는 주요 부하 분산 알고리즘에 대해 살펴보겠습니다. 라운드 로빈 (Round Robin) 현재 구성된 장비에 부하를 순차적으로 분산함. 총 누적 세션 수는 동일하지만 활성화된 세션 수는 달라질 수 있음 최소 접속 방식 (Least..
- IT 엔지니어를 위한 네트워크 로드밸런서(Load Balancer) - Part 2 (헬스체크/Health check) Today Keys : 로드밸런서, L4, L7, 부하분산, Load Balancer, Load Balancing, 가용성, 이중화, SLB, 헬스체크, health, LB 본 포스팅은 'IT 엔지니어를 위한 네트워크 입문' [길벗] 서적에 포함된 '12. 로드밸런서'의 내용 중 소개 및 12.3장의 내용입니다 12.3. 헬스 체크 로드 밸런서를 통해 서비스하는 그룹의 서버에 장애가 발생하면 어떻게 될까요? 혹시 서비스가 정상적으로 되지 않는 서버로 서비스를 분산해 일부 사용자에게 서비스되지 않는 경우가 발생하 지 않을까요? 물론 그런 경우는 발생하지 않습니다.로드 밸런서에서는 부하 분산을 하는 각 서버 의 서비스를 주기적으로 헬스 체크(Health Check)해 정상적 인 서 비스 쪽으로만 부하를 분산..
- AI AWS Bedrock - Part 3 Today Keys : bedrock, rag, retrieval, augmented, generative, ai, 생성, foundation model, claude, anthorpic, model 이번 포스팅은 지난 9월 28일에 GA에 된 Amazon Bedrock에 대한 세 번째 포스팅입니다. Amazon Bedrock은 FM(기본 모델)을 사용하여 생성 AI 애플리케이션을 구축하고 확장 할 수 있도록 도와주며, AI21 Labs/ Anthropic/Cohere/Meta/Stability AI 및 Amazon을 포함한 주요 AI 회사의 고성능 FM 선택과 함께 생성 AI를 구축하는 데 필요한 광범위한 기능 세트를 제공하는 완전관리형 서비스입니다. 세 번째 포스팅에서는 Amazon Bedrock을 ..
- AI AWS Bedrock - Part 2 Today Keys : bedrock, generative, ai, 생성, foundation model, claude, anthorpic, model, Text, generation 이번 포스팅은 지난 9월 28일에 GA에 된 Amazon Bedrock에 대한 두 번째 포스팅입니다. Amazon Bedrock은 FM(기본 모델)을 사용하여 생성 AI 애플리케이션을 구축하고 확장 할 수 있도록 도와주며, AI21 Labs/ Anthropic/Cohere/Meta/Stability AI 및 Amazon을 포함한 주요 AI 회사의 고성능 FM 선택과 함께 생성 AI를 구축하는 데 필요한 광범위한 기능 세트를 제공하는 완전관리형 서비스입니다. 두 번째 포스팅에서는 Amazon Bedrock을 활용하기 위해서 ..