본문 바로가기
반응형

분류 전체보기1076

WebDancer? - Aliexpress 에서 진행하는 자율적인 정보 탐색 에이전트 논문 요약 원본 논문 WebDancer: 자율 웹 에이전트의 여정 으로 지금 나온 OpenSource들의 모델을 뛰어넘는 성능을 자랑한다.WebDancer 논문을 보면, 최근 LLM에 많이 들어가고 있는 ReAct, 답변전에 먼저 추론(생각)을 하고 이를 통해 행동하고, 관찰하고 다시 다음을 생각하도록 하는 스스로 보다 강력한 학습을 할 수 있도록 구성한 강력한 모델이다.여기에 다시 효과적인 를추론 능력 향상도 큰 부분은 E2HQA (Easy-to-Hard QA), CRAWLQA (크롤링 기반 QA) 를 이용해서 훈련을 아래는 논문 내용을 요약해본 오디오이다. 한번 들어보면 논문이해에 큰 도움이 될 것 이다.1. 주요 목표 및 배경본 연구 "WebDancer: Towards Autonomous Informati.. 2025. 8. 1.
Python - Llama.cpp GPU로 Windows 에서 구동하기 Windows에서 Llama.cpp 버전을 사용하는 것은 필자와 같이 Windows를 주로 사용하는 유저에게는 꼭 필요한 부분으로, 약간은 번거롭지만, 어렵지 않고 한번 해두면 계속 사용할 수 있기 때문에 여기에 정리해 둔다.1. Git 설치Github과 같은 레포스토리지를 활용하기 위해서 설치해야 한다. 기본옵션으로 설치하자.Git - Downloading Package 2. Conda 설치별다른 옵션을 선택할 필요는 없다. 기본옵션으로 설치하자.Download Success | Anaconda설치시 기본 옵션으로 설치하자. 3. Visual Studio - C++를 사용한 데스크톱 개발 설치Windows용 Visual Studio C/C++ IDE 및 컴파일러윈도우에서는 cmake, nmake와 .. 2025. 7. 31.
Python - FastAPI로 로컬 LLaMA 모델을 API 실행 FastAPI를 이용하면, Ollama를 이용하지 않고도 직접 모델을 서비스하는 것이 쉽게 가능하다.만약 직접 모델을 다운로드하여 보다 자유롭게 운영하고 있다면, 아래와 같이 실행해보는 것을 추천한다.from fastapi import FastAPI, Requestfrom pydantic import BaseModelfrom llama_cpp import Llamaimport uvicorn# 모델 로드model_path = r"F:\LLM\Models\Meta-Llama-3.1-70B-Instruct-GGUF\Meta-Llama-3.1-70B-Instruct-Q3_K_M.gguf"llm = Llama(model_path=model_path, gpu_layers=-1)# FastAPI 앱 생성app = F.. 2025. 7. 30.
이제 코딩/개발 그만둘까 생각날 때 번아웃, 포기 직전, 코딩을 그만두고 싶었지만, 욕심내지 말고 5분만 하자는 마음가짐이 많은것을 바꾸었습니다.코딩을 하다 보면 누구나 한 번쯤 번아웃을 겪고, "이제 정말 그만둘까?"라는 생각이 들 때가 있습니다. 저 역시 그랬습니다. 하지만 아주 작은 변화, 단 5분의 습관이 제 모든 것을 바꿔놓았고, 좋은 글들을 읽어보면 아래와 같은 공통적인 내용을 정리해 보았습니다.왜 번아웃이 오는지 생각해보니 다음과 같았습니다.끝없는 버그와 에러끊임없는 학습 부담높은 기대치와 압박감성과에 대한 조급함이런 것들이 쌓이면 아무리 좋아하던 코딩도 지치고, 흥미를 잃게 되고, 모든것을 내려놓고 싶어집니다.스스로를 너무 채직질하지 마세요. 인생은 장기전입니다. 5분만으로 충분합니다.너무 많은 것을 하려고 하지 말고, 단 .. 2025. 7. 30.
ISA 계좌에서 배당금 활용 시 5% 기준 최대 구매 금액은? ISA 계좌에서 배당금 활용 시 5% 기준 최대 구매 금액ISA(Individual Savings Account) 계좌를 활용하여 배당금 수익을 극대화하려는 경우, 비과세 한도(일반형 200만 원, 서민형·농어민형 400만 원) 내에서 배당금이 발생하도록 투자금액을 산정하는 것이 핵심입니다. 여기서는 연 배당수익률이 5%인 상품을 기준으로 최대 투자(구매) 가능 금액을 계산합니다.비과세 한도에 따른 최대 투자금액 계산일반형 ISA 비과세 한도: 200만 원서민형/농어민형 ISA 비과세 한도: 400만 원배당수익률(연): 5%ISA 유형 비과세 한도(배당금) 배당수익률 최대 투자(구매) 금액일반형 200만 원 5% 4,000만 원서민형/농어민형 400만 원 5% 8,000만 ² 2025. 7. 30.
Python - 효과적인 코드 재작성 - functools 파이썬에서 코드 재작성하는 경우가 많다. 이를 더욱 효과적으로 개선해줄 수 있는 도구가 바로 functools이다.파이썬의 functools 모듈은 표준 라이브러리에 포함된 매우 강력한 도구이다. 반복적인 코드 작성, 비슷한 함수의 재작성, 불필요한 성능 저하를 방지하고 싶다면 functools를 적극 활용해보기 바란다. 코드가 더 간결해지고, 효율적이며, 유지보수가 쉬워진다.왜 functools를 써야 할까?중복 코드 제거: 메모리 캐쉬, 함수 조합, 인자 고정 등 자주 쓰는 패턴을 직접 구현할 필요 없이 바로 사용할 수 있다.성능 향상: lru_cache 같은 캐시 기능으로 연산이 많은 함수의 속도를 대폭 개선할 수 있다.코드 재사용성 증가: 함수 조합, 인자 고정(partial) 등을 통해 더 유연.. 2025. 7. 30.
반응형

티스토리툴바