반응형 프로그래밍/AI8 LLM 앱 개발을 위한 첫걸음 Windows OS 에서 LangChain(랭체인) 설치의 정석 LangChain 최신 버전(0.3)과 기존 버전의 차이점가장 큰 차이점은 Pydantic 2로의 변화를 꼽을 수 있습니다. 그리고 파이썬 버전을 3.9 버전 이상을 사용하도록 합니다. 이로인해 기존의 validator 데코레이션 대신 field_validator 와 같은 새로운 데코레이션을 사용해야하는 경우가 발생합니다. 기능LangChain 0.2LangChain 0.3Pydantic 버전Pydantic 1Pydantic 2Python 지원Python 3.8 이상Python 3.9 이상성능 개선기본적인 성능최적화된 알고리즘으로 성능 및 지연 시간 감소에러 처리표준 에러 처리자동 복구 기능을 포함한 향상된 에러 처리자원 관리기본 자원 관리메모리 및 CPU 활용 최적화문서화표준 문서 제공개편된 문서와 명.. 2025. 2. 6. LLM 앱 개발의 첫걸음 LangChain(랭체인) 0.3 버전 출시 Pydantic 2 란? LangChain 0.3 버전에서 변화 랭체인 0.3 버전은 0.2 버전과 비교하여 여러가지 중요한 변화와 개선이 포함되었습니다. 통합 패키지 관리, 에러 처리 복구, 응답 메타데이터 제공, 도구 통합 및 표준화, 스트리밍 및 비동기 지원 강화, 성능 및 안정성 개선 그리고 마지막으로 Pydantic 2로 전환되었습니다. Pydantic 이란? Pydantic이란 Python의 데이터 유효성 검사와 설정 관리를 위한 라이브러리입니다. 타입 힌트(type hints)를 기반으로 데이터 모델을 정의하고 자동으로 데이터의 변환, 검증 및 직렬화를 수행합니다. 개발자는 Pydantic 을 사용해 명확하고 안전한 코드를 작성할 수 있습니다. Pydantic 의 예시를 통해 라이브러리의 개념과 철학을 이해할 수 .. 2025. 2. 6. LLM 앱 개발을 위한 첫걸음 양자화 모델이란? 모델의 성능 최적화를 위한 양자화 모델이란? 양자화 모델의 사용은 딥러닝 모델의 성능을 유지하면서 크기를 줄이고 추론 속도를 높이는 효과적인 방법이라고 알려져 있습니다. 양자화라고 표현되는 방법을 통해 모델의 가중치와 활성화 함수 출력을 더 작은 비트수로 표현하는 기법입니다. 예를들어 32비트 부동소수점(FP32)을 8비트 정수(INT8)나 4비트로 변환하여 모델의 크기를 줄이고 연산 속도를 높입니다. 일반적으로 소수점 계산을 하는 것보다 정수 계산이 훨씬 간단하는 점을 상기시키면 이해가 쉽습니다. 양자화를 사용했을때 어떤 효과를 볼 수 있나요? 양자화를 통해 모델의 크기와 연산 속도를 향상시킬 수 있습니다. 메모리 사용량이 최대 75%까지 줄일 수 있습니다. 또한 실제 모델에 대한 응답을 얻는 속.. 2025. 2. 3. LLM 앱 개발을 위한 첫 걸음 LangChain 이란? LangChain 이란?대규모 언어 모델(LLM)을 기반으로 하는 앱을 개발하기 위한 오픈소스 프레임워크입니다. LLM을 활용한 챗봇과 같은 애플리케이션 개발 과정을 모듈화, 체인, 통합, 에이전트, 메모리와 같은 개념으로 나누어 구현할 수 있는 구조를 제공합니다. LangChain을 이용하여 개발할 수 있는 애플리케이션의 종류는 다음과 같습니다. 챗봇질의 응답 시스템문서/동영상 요약데이터 분석 자동화AI 비서LangChain의 간략한 역사2022년 10월 해리슨 체이스(Harrison Chase)에 의해 프로젝트가 시작되었으며 23년 6월쯤 깃헙(Github)에서 가장 빠르게 성장하는 단일 오픈소스로 선정되었습니다. 24년 1월에 stable 버전인 v0.1.0을 공개하며 LLM 개발 프레임워크로 자리.. 2025. 2. 2. 나만의 AI 만들기 - LM Studio를 활용한 딥시크(DeepSeek) R1 사용하기 LM Studio 란? 로컬 컴퓨터에서 LLM(대규모 언어 모델)을 쉽게 실행하고 실험할 수 있게 해주는 데스크탑 애플리케이션(Desktop Application)입니다. 윈도우, 맥, 리눅스에서 모드 사용 가능하며 인터넷 연결 없이 오프라인 환경에서 사용 가능합니다. ollama 가 CLI 환경인 반면 사용자 친화적인 GUI 환경을 제공하여 더욱 편리하고 사용하기 좋습니다. LM Studio 와 Ollama 비교 LM Studio 의 만족도는 단연 Ollama 와 비교하여 압도적이라고 할 수 있습니다. 그 이유로는 CLI 환경이 아닌 GUI 환경을 제공한다는 점이 가장 큰 장점입니다. 또한, GUI 환경에서 여러 모델들을 다운로드 받아서 활용할 수 있다는 점에서 더욱 편리합니다. 반면 Ollama 의.. 2025. 1. 30. [데이터 분석] [머신 러닝] 데이터 마사지란? 안녕하세요 K-IN 입니다. 데이터 마사지에대해서 알아보겠습니다. 인터뷰 및 업무와 관련해서 해당 포스트가 도움이되길 바랍니다. 데이터 마사지란? 데이터 분석 결과가 예상하거나 의도한 방향과 다를 때 데이터의 배열을 수정하거나 관점을 바꾸는 등 동일한 데이터의 해석이 달라지도록 유도하는 것을 말합니다. 데이터의 수치 자체를 바꾸는 데이터 조작과는 차이가 있으나 분석가의 주관적인 판단이 개입되므로 지양해야합니다. 아래는 대표적인 데이터 마사지 방법입니다. 편향된 데이터 전처리 매직 그래프 사용 분모 바꾸기 등 관점 변환 의도적인 데이터 누락 및 가공 머신러닝 모델의 파라미터 값 변경 및 연산 반복 심슨의 역설 이제 각각에 대해서 살펴보겠습니다. 편향된 데이터 전처리 이상치 또는 결측값 등의 전처리를 의도하.. 2024. 1. 1. M1 맥북에서 Zulu 를 이용한 konlpy 환경 구성하기 안녕하세요 오늘도 여러분의 삶을 풍요롭게할 K-IN 입니다. 이번 시간에는 맥북에서 konlpy 구성 시 JDK 에러 문제가 발생하는 케이스를 완전해결해보도록 하겠습니다. konlpy 설치 방법 konlpy 설치는 매우 간단합니다. python 3.9 버전을 기준으로 아래의 명령어를 실행하면 설치가 완료됩니다. pip install konlpy # 또는 python3 -m pip install konlpy 만약 버전을 선택하거나 윈도우 버전에서 설치하고자 한다면 아래의 웹사이트를 참조해주세요. https://konlpy.org/ko/stable/install/#id1 설치하기 — KoNLPy 0.6.0 documentation 우분투 Supported: Xenial(16.04.3 LTS), Bionic(.. 2023. 8. 13. [인공지능][AI] 머신러닝과 딥러닝의 차이점 AI 란 - 기계 혹은 시스템상에서 만들어지는 지능 - 인간의 지능과 유사한 지적 능력을 인공적으로 구현 - 머신러닝 기계 스스로 데이터로부터 학습하여 찾아낸 패턴에 따라 작업을 실행하는 알고리즘 - 딥러닝 머신러닝 방식 중 하나로서 뇌 신경망을 모방한 인공신경망을 통해 데이터를 학습한 AI 모델 AI 학습 방식에 따른 분류 - 지도학습 정답이 주어진 상태에서 AI가 학습하는 방식 예측, 분류 등에 활용됨 - 비지도학습 정답을 알려주지 않은 상태에서 AI가 스스로 데이터의 특성을 학습하고 패턴을 파악하는 방식 연관 규칙 탐색, 군집화 등에 활용 - 강화학습 정해진 환경 안에서 동작하는 에이전트가 현재의 상태를 인식하고 선택할 수 있는 행동 중 보상을 최대화하는 행동을 선택하여 학습하는 방식 바둑이나 게임.. 2023. 5. 6. 이전 1 다음 반응형
