본문 바로가기
반응형

전체 글1039

Huggingface - pipelines 설치 및 사용 Hugging Face 에서 제공하는 pipelines는 간편하게 AI를 무료로 이용할 수 있는 기능을 제공한다. 고수준의 라이브러리 단 몇줄로 AI를 활용할 수 있다. 여기에서는 어떻게 이용할 수 있는지 설치 부터 대표적인 이용 방법을 정리해본다.1. 라이브러리 설치!pip install -q --upgrade torch==2.5.1+cu124 torchvision==0.20.1+cu124 torchaudio==2.5.1+cu124 --index-url https://download.pytorch.org/whl/cu124!pip install -q --upgrade transformers==4.48.3 datasets==3.2.0 diffusers최신 버전의 PyTorch 및 관련 라이브러리 설치 (c.. 2025. 8. 6.
AI/LLM 모델 성능을 비교 평가하는 주요 리더보드 정리 다음은 AI/LLM 모델 성능을 비교하고 평가할 수 있는 주요 리더보드 사이트들이다.각 사이트는 다양한 벤치마크, 가격, 속도, 컨텍스트 길이 등을 기준으로 모델을 분석한다.🏆 1. LLM Stats특징: 실시간 업데이트되는 리더보드로, 모델별 성능, 가격, 컨텍스트 길이, 멀티모달 지원 여부 등을 비교 가능.벤치마크: GPQA, MMLU, HumanEval, DROP, SWE-Bench, MMMU 등.모델 예시: GPT-4.5, Claude 3.7, Gemini 2.5, Llama 4, DeepSeek 등.추가 기능: Playground에서 모델 직접 테스트 가능, API 가격 비교도 제공.📊 2. Artificial Analysis특징: 100개 이상의 모델을 다양한 기준(지능, 속도, 가격, 컨.. 2025. 8. 6.
원신6.0 - 달빛 징조? 능력 정보 원신의 '달빛 징조' (Lunar Phase 또는 Moonsign System)는 Nod Krai 지역 캐릭터들과 관련된 새로운 게임 시스템이다 [이전 대화]. 이 메커니즘은 플레이어들에게 많은 논의와 우려를 불러일으키고 있다.다음은 달빛 징조에 대한 자세한 설명이다:메커니즘의 핵심 및 목적파티에 노드크라이 캐릭터 3명이 있어야만 달빛 징조 메커니즘을 최대치로 발휘할 수 있다.이 메커니즘은 노드크라이 캐릭터의 유물 세트의 전체 능력치를 활성화하거나 , 캐릭터 스킬의 핵심적인 부분을 발동시키는 데 필수적이다.예를 들어, Flins의 패시브는 '승천하는 달(ascendant moon)' 상태에서만 발동하고, Lauma는 Nod Krai 캐릭터 수에 따라 3가지 다른 효과를 가진다.유출된 정보에 따르면, 달빛.. 2025. 8. 3.
원신 6.0 - 달 개화 특성 신규 캐릭터 라우마 나히다와 함께 활약할 수 있는 캐릭터로 보이는 풀 원소 향상이 기대되는 캐릭터이다. 라우마는 촉매를 사용하는 풀 원소 캐릭터이며, 별자리는 '은록좌'입니다. 그녀는 노드크라이와 연관되어 있는 '테스트 캐릭터'로 분류됩니다. 라우마의 능력치는 레벨 상승에 따라 HP, 공격력, 방어력 외에 원소 마스터리(EM)가 보너스 스탯으로 증가하는 것이 특징입니다.스킬 특성 및 특징일반 공격: 짙은 숲의 여정기본 공격: 최대 3번의 풀 원소 피해강공격 - 정령화: 스태미나를 소모하여 숲의 정령으로 변해 최대 10초 동안 질주합니다. 이 상태에서는 경직 저항력이 증가하며, 스태미나를 추가 소모해 최대 2단의 연속 점프가 가능정령화 해제 후: 4초의 재사용 대기시간 동안 강공격이 소환 기도로 전환되어 전방에 풀 원소 범위.. 2025. 8. 3.
명조 - 아우구스타(Augusta)와 유노(Iuno) 캐릭터 정보 명조 'Wuthering Waves 2.6' 버전에 새로 등장하는 두 캐릭터, 아우구스타(Augusta)와 이우노(Iuno)에 대한 현재까지 나온 정보로 분석한 내용이다. 아우구스타(Augusta): 전도 광검 DPS희귀도, 원소, 무기: ⭐⭐⭐⭐⭐ | 전도 | 광검외형 및 분위기: 아우구스타는 불타는 듯한 붉은 머리카락과 전투복으로 불타는 태양을 구현하며, 전쟁의 여신 같은 아우라를 풍긴다. 금속 갑옷이 주를 이루지만, 섬세한 얇은 천이 더해져 부드러움을 더하고 독특한 로마 신화 미학을 더한다.역할 및 스킬 메커니즘:아우구스타는 첫 전도 원소 광검 메인 DPS이다.그녀는 높은 빈도의 대미지 출력과 폭발적인 메커니즘에 특화된 새로운 5성 전도 DPS이며, 아마도 전도 스택(Lightning Stacks).. 2025. 8. 1.
WebDancer? - Aliexpress 에서 진행하는 자율적인 정보 탐색 에이전트 논문 요약 원본 논문 WebDancer: 자율 웹 에이전트의 여정 으로 지금 나온 OpenSource들의 모델을 뛰어넘는 성능을 자랑한다.WebDancer 논문을 보면, 최근 LLM에 많이 들어가고 있는 ReAct, 답변전에 먼저 추론(생각)을 하고 이를 통해 행동하고, 관찰하고 다시 다음을 생각하도록 하는 스스로 보다 강력한 학습을 할 수 있도록 구성한 강력한 모델이다.여기에 다시 효과적인 를추론 능력 향상도 큰 부분은 E2HQA (Easy-to-Hard QA), CRAWLQA (크롤링 기반 QA) 를 이용해서 훈련을 아래는 논문 내용을 요약해본 오디오이다. 한번 들어보면 논문이해에 큰 도움이 될 것 이다.1. 주요 목표 및 배경본 연구 "WebDancer: Towards Autonomous Informati.. 2025. 8. 1.
Python - Llama.cpp GPU로 Windows 에서 구동하기 Windows에서 Llama.cpp 버전을 사용하는 것은 필자와 같이 Windows를 주로 사용하는 유저에게는 꼭 필요한 부분으로, 약간은 번거롭지만, 어렵지 않고 한번 해두면 계속 사용할 수 있기 때문에 여기에 정리해 둔다.1. Git 설치Github과 같은 레포스토리지를 활용하기 위해서 설치해야 한다. 기본옵션으로 설치하자.Git - Downloading Package 2. Conda 설치별다른 옵션을 선택할 필요는 없다. 기본옵션으로 설치하자.Download Success | Anaconda설치시 기본 옵션으로 설치하자. 3. Visual Studio - C++를 사용한 데스크톱 개발 설치Windows용 Visual Studio C/C++ IDE 및 컴파일러윈도우에서는 cmake, nmake와 .. 2025. 7. 31.
Python - FastAPI로 로컬 LLaMA 모델을 API 실행 FastAPI를 이용하면, Ollama를 이용하지 않고도 직접 모델을 서비스하는 것이 쉽게 가능하다.만약 직접 모델을 다운로드하여 보다 자유롭게 운영하고 있다면, 아래와 같이 실행해보는 것을 추천한다.from fastapi import FastAPI, Requestfrom pydantic import BaseModelfrom llama_cpp import Llamaimport uvicorn# 모델 로드model_path = r"F:\LLM\Models\Meta-Llama-3.1-70B-Instruct-GGUF\Meta-Llama-3.1-70B-Instruct-Q3_K_M.gguf"llm = Llama(model_path=model_path, gpu_layers=-1)# FastAPI 앱 생성app = F.. 2025. 7. 30.
이제 코딩/개발 그만둘까 생각날 때 번아웃, 포기 직전, 코딩을 그만두고 싶었지만, 욕심내지 말고 5분만 하자는 마음가짐이 많은것을 바꾸었습니다.코딩을 하다 보면 누구나 한 번쯤 번아웃을 겪고, "이제 정말 그만둘까?"라는 생각이 들 때가 있습니다. 저 역시 그랬습니다. 하지만 아주 작은 변화, 단 5분의 습관이 제 모든 것을 바꿔놓았고, 좋은 글들을 읽어보면 아래와 같은 공통적인 내용을 정리해 보았습니다.왜 번아웃이 오는지 생각해보니 다음과 같았습니다.끝없는 버그와 에러끊임없는 학습 부담높은 기대치와 압박감성과에 대한 조급함이런 것들이 쌓이면 아무리 좋아하던 코딩도 지치고, 흥미를 잃게 되고, 모든것을 내려놓고 싶어집니다.스스로를 너무 채직질하지 마세요. 인생은 장기전입니다. 5분만으로 충분합니다.너무 많은 것을 하려고 하지 말고, 단 .. 2025. 7. 30.
반응형