Play new and move-first

Total Data Center Power Consumption(MIT Supercloud Dataset 예시)시스템 구성 및 Data 는 아래와 같이 구성되어 있으며 BERT*) 라는 모델을 사용하였을때 부하의 변동을 정리한 내용입니다. System Overview : TXGaia Cluster at MIT’s datacenter. 224 GPU-accelerated nodes, each with: - Two 20-core Intel Xeon Gold 6248 CPUs (384GB RAM). - Two NVIDIA Volta V100 GPUs (32GB RAM each). - Additional CPU-only nodes.Dataset Composition (~2.1 TB) Time series ..

AI 데이터센터에 얼마나 많은 전력이 사용되는지 측정하기 위해 사용되는 주요 전력 지표는 다음과 같습니다. 1. TDP (Thermal Design Power): 실제 하드웨어가 소비할 수 있는 최대 전력. (GPU에 소요되는 전력은 거의 대부분 열로 변환되기 때문에 열과 전력의 관계로 연결됨) 으로, 냉각 시스템 설계에 필수적이며 특히 대형 모델 훈련 시 TDP 한계까지 하드웨어가 작동함. - 활용: 데이터센터의 용량 계획 및 장비 수명 관리 2. GPU Utilization (GPU 활용률) GPU 자원이 얼마나 사용되고 있는지를 나타내는 비율로 직접적인 전력 측정은 아니지만, 전력 소비와 연관성이 큼. - 활용: 워크로드 분산, 에너지 효율 최적화, 자원 통합 기회 파악에 유용. 3. PUE ..

AI Datacenter의 부하(Load) 특성에 대해서 아래 링크를 기준으로 짧게 정리해 보았습니다. AI Cmpute Node의 구성 AI 작업을 위해서는 아래와 같은 단위의 Component들이 최적화 될 수 있도록 구성이 필요합니다. a) GPU: 여러 개의 고성능 GPU가 병렬 처리용으로 상호 연결되어 핵심 연산을 담당 b) CPU & 메모리: CPU와 대용량 고대여폭 메모리가 GPU를 지원c) Storage 및 Netowrk: 빠르고 용량 큰 저장장치와 고속 네트워크 인터페이스로 데이터 처리 및 통신 강화.d) 냉각 시스템: 고밀도 Rack에서 발생하는 열관리를 위한 냉각 기술 필수e) 전력 공급: 효율성, 이중화를 고려한 다중 전원 공급 장치 필요f) Architecture Balance: ..

1. 프롬프트 공유 사이트 GPTable(지피테이블) : 누구나 프롬프트를 공유할 수 있음. - 프롬프트를 모델별, 분류별로 확인할 수 있음 Promptbase : 다양한 주제와 아이디어를 갖춘 프롬프트 컬렉션을 제공하는 유료 플랫폼PromptBase | Prompt Marketplace: Midjourney, ChatGPT, DALL·E, Sora, FLUX & more. Github Awesome Prompts: 세계 최대의 코드 저장소의 일부 페이지로, 많은 프롬프트가 정리되어 있음GitHub - f/awesome-chatgpt-prompts: This repo includes ChatGPT prompt curation to use ChatGPT and other LLM tools better. ..

프레젠테이션 자료를 만들 때 단순하게 ChatGPT에게 "프레젠테이션 작성"이라고 하고 주제 및 관련 정보를 준다면 ChatGPT는 작성자가 원하는 수준의 자료를 만들 수 없습니다. 원하는 결과물을 얻기 위해서는 ChatGPT에게 역할을 분명히 해주고, 상세한 정보를 단계별로 주어야 좋은 프레젠테이션 자료를 작성할 수 있습니다. 차근 차근 따라해 보시면 도움이 될 것 입니다. +++++++++++++++++++++++++++++++++++++++++ Prompt 예시 +++++++++++++++++++++++++++++++++++++++#역할주어진 주제에 대한 특정 목표를 달성하는데 최적화된 파워포인트 프리젠테이션 생성합니다. [프레젠테이션의 목표] : 지속 가능한 데이터센터: 현재 문제와 새로운 해결책..

엑셀의 함수 및 VBA도 쉽게 사용할 수 있습니다. 하나 하나 인터넷을 검색하여 엑셀함수를 만들었다면 이제는 ChatGPT에 원하는 함수를 설명함으로서 쉽게 결과를 얻을 수 있습니다. 또한, 이전에 작성된 엑셀파일의 함수를 upload하여 어떤 함수가 적용되었는지 확인 및 응용도 가능합니다. #역할당신은 엑셀 함수 전문가입니다. 사용자가 엑셀 함수와 관련된 질문을 할 때 마다 해당 문제를 해결할 수 있는 최적의 함수를 제시하세요 #질문당믕 엑셀 문제들을 해결하기 위해 어떤 함수를 사용해야 하는지 알려주세요. 함수의 사용 방법과 예시도 함께 제시해 주세요. Code interpreter로 알려주세요. 한국어로 알려주세요.1. 여러 셀에 입력된 수량 값을 자동으로 합산하여 전체 판매 갯수를 계산하는 함수는..

Chain of Thought(COT) 기법은 이전 대화의 맥락을 기반으로 대화를 지속적으로 발전시키는 방법으로 개선된 답변을 기대할 수 있으며, Supermeta prompt는 먼저 작성한 Prompt를 AI에게 제공하여 더 정확하고 구체적인 답변을 얻을 수 있도록 Prompt를 개선하는 방법입니다. Chain of Thought PROMPT이전 대화에서 제공된 정보를 바탕으로 의미 있는 대답을 생성하고 대화가 지속됨에 따라 더욱 깊이 있고 구체적인 응답 제공이 가능합니다. Cain of Thought (COT) 예시예시)일련의 프롬프트를 통해 [주제]에 관한 공동 작업을 합시다. 각 응답에 대해 다음의 형식을 따라주세요.# 요약: 이전 응답의 주요 정보를 간결하게 요약합니다.# 메티프롬프트: 프로세..

Chain of Thought(COT) 기법은 이전 대화의 맥락을 기반으로 대화를 지속적으로 발전시키는 방법으로 개선된 답변을 기대할 수 있으며, Supermeta prompt는 먼저 작성한 Prompt를 AI에게 제공하여 더 정확하고 구체적인 답변을 얻을 수 있도록 Prompt를 개선하는 방법입니다. Chain of Thought PROMPT이전 대화에서 제공된 정보를 바탕으로 의미 있는 대답을 생성하고 대화가 지속됨에 따라 더욱 깊이 있고 구체적인 응답 제공이 가능합니다. Cain of Thought (COT) 예시예시)일련의 프롬프트를 통해 [주제]에 관한 공동 작업을 합시다. 각 응답에 대해 다음의 형식을 따라주세요.# 요약: 이전 응답의 주요 정보를 간결하게 요약합니다.# 메티프롬프트: 프로세..

사용자가 작성한 프롬프트를 제시하고 제시한 프롬프트를 개선하는 반복 요청을 통해 최적의 답을 얻기 위해 프롬프트를 개선시키는 기법을 메타프롬프트라고 합니다. 메타프롬프트(METAPROMPT): 사용자가 작성한 프롬프트를 제공하고 이를 개선해 달라고 반복 요청하는 과정으로 숨겨진 주제를 발견하거나 다양한 관점 반영에 도움을 줌 AI가 효과적으로 문제를 이해.해결 하는데 도움을 주고, 깊이 있는 응답 생성이 가능하고, 복잡하고 구체적인 주제 처리가 가능하며 AI의 셩능을 향상시켜 → 사용자가 원하는 결과를 정확하게 얻을 수 있음예시) 마감일에 쫒기는 프로젝트를 진행하면서 사람들과 좋은 관계를 유지하는 방법에 대해 당신에게 물어보려고 합니다. 이를 위한 좋은 답변을끌어낼 수 있도록, 풍부하고 최적화된 프롬프트..

후카츠 프롬프트와 형식 지정 기법#을 통해 제목을 만들어주면 각각의 제목들이 들어가는 내용들을 하나의 단락처럼 인식하는 것을 이용해 효과적인 프롬프트를 만드는 기법으로, 하나의 template 형태로 필요한 내용만 수정하여 활용 할 수 있도록 최적화 한 기법입니다. 후카츠 프롬프트의 구성 # 명령문 : 어떤 것을 수행하게 만들 것인가?# 제약조건 : 어떤 조건을 제시할 것인가?# 입력문 : 어떤 결과가 나오게 할 것인가?# 출력문 : 지금 요청할 것이 무엇인가?(가변적)예시) 아래와 같은 형식으로 기재하면, GPT가 "#출력문"에 해당하는 내용을 입력해줌# 명령문 - 역할 기재당신은 [ 역할 부여 ] 입니다.이하의 제약조건과 입력문을 토대로 최고의 [ ]을 출력해 주세요# 제약조건 - 전문적..