본문 바로가기

반응형

분류 전체보기

(780)
검색증강생성(RAG, Retrieval-Augmented Generation) 기술 검색증강생성(RAG, Retrieval-Augmented Generation) 기술은 생성형 AI 모델이 외부 검색 시스템에서 검색한 정보를 활용하여 더욱 정확하고 신뢰할 수 있는 응답을 생성하도록 돕는 기술입니다. 이는 대형 언어 모델(LLM)의 한계를 보완하기 위한 방법으로, LLM이 훈련 데이터에 포함되지 않은 최신 정보나 특정 도메인의 지식을 활용할 수 있도록 합니다. RAG의 주요 개념검색(Retrieval)사용자의 질문을 처리하여 적절한 검색 쿼리를 생성외부 데이터베이스(문서 저장소, 벡터 DB, 웹 검색 등)에서 관련 정보를 검색생성(Generation)검색된 정보를 기반으로 LLM이 답변을 생성검색한 문서의 내용을 참조하여 더 신뢰성 높은 응답 제공 RAG의 주요 장점정확도 향상: 최신 정..
Spark 2.4 / 3.0 비교 Spark 2.4와 3.0을 비교하려면 여러 측면을 고려해야 합니다.Apache Spark는 버전 간에 많은 변경 사항과 개선 사항이 있으므로 이해를 돕기 위해 몇 가지 중요한 측면을 살펴보겠습니다.Python 3 지원 : Spark 3.0은 Python 3.7+를 공식적으로 지원하며, Python 2는 더 이상 지원하지 않습니다. Python 3의 도입은 Spark의 최신 기능 및 라이브러리와의 호환성을 향상시켰습니다.Pandas UDFs : Spark 3.0에서는 Pandas User Defined Functions(Pandas UDFs)를 도입하여 Pandas 데이터 프레임과 상호 작용하는 사용자 정의 함수를 작성할 수 있습니다. 이는 데이터 처리 및 분석의 유연성을 높여줍니다.새로운 SQL 엔진 ..
소셜 로그인 소셜 로그인(Social Login) 정의소셜 로그인(Social Login)은 사용자가 별도의 회원가입 없이 Google, Facebook, Naver, Kakao, GitHub 등의 소셜 네트워크 서비스(SNS) 계정을 이용하여 웹사이트나 앱에 로그인할 수 있도록 하는 인증 방식입니다.소셜 로그인 특징OAuth 2.0 / OpenID Connect 기반소셜 로그인은 보통 OAuth 2.0 또는 OpenID Connect (OIDC) 프로토콜을 사용하여 동작합니다.회원가입 과정 단축사용자는 새로운 계정을 생성할 필요 없이 기존 SNS 계정을 활용할 수 있습니다.보안 강화직접 비밀번호를 입력하는 대신, 소셜 로그인 제공자의 인증 시스템을 사용하여 보안성이 높습니다.빠른 로그인 및 사용자 정보 제공사용자의..
Spark 공부 관련 유투브 ">  1. https://www.youtube.com/watch?v=KVWCMrM-t0w&utm_source=chatgpt.com 2. https://www.youtube.com/watch?v=rjJ54qtOjW4 3. https://www.youtube.com/watch?v=zyVw1V-Hyh4&utm_source=chatgpt.com
iptables 로 특정 아이피 차단하는 방법 특정 IP 차단예를 들어, 192.168.1.100이라는 IP에서 오는 모든 패킷을 차단하려면 다음 명령어를 실행합니다.sudo iptables -A INPUT -s 192.168.1.100 -j DROP-A INPUT : 들어오는 트래픽을 필터링-s 192.168.1.100 : 해당 IP에서 오는 패킷만 차단-j DROP : 해당 패킷을 버림 (응답도 하지 않음)특정 IP의 특정 포드 차단만약 192.168.1.100에서 오는 SSH(포트 22) 트래픽만 차단하려면sudo iptables -A INPUT -s 192.168.1.100 -p tcp --dport 22 -j DROP 특정 IP 허용하고 나머지 차단특정 IP(192.168.1.200)만 허용하고 나머지는 차단하려면sudo iptables -..
Oracle SQLException : ORA-01555: snapshot too old ORA-01555: snapshot too old 오류는 Oracle 데이터베이스에서 장시간 실행된 쿼리가 과거에 생성된 데이터를 읽으려고 시도할 때 발생하는 오류입니다. 이 오류는 주로 다음과 같은 상황에서 발생합니다:원인언두 테이블스페이스(Undo Tablespace) 또는 롤백 세그먼트의 부족: Oracle 데이터베이스는 쿼리가 실행되는 동안 변경된 데이터를 추적하기 위해 언두 테이블스페이스를 사용합니다. 오래된 데이터를 읽어야 하는 장시간 실행된 쿼리가 있는 경우, Oracle은 해당 데이터를 언두 테이블스페이스에서 검색하려고 합니다. 하지만 언두 테이블스페이스가 충분하지 않으면 해당 데이터를 유지하지 못해 오류가 발생할 수 있습니다.장시간 실행되는 쿼리와 경쟁하는 트랜잭션: 다른 트랜잭션이 같은..
WAS가 죽었을 경우, 웹 서버에서 특정 페이지로 리다이렉트 또는 특정 에러 페이지 제공 방법 Nginx 설정Nginx에서는 proxy_pass로 WAS와 연결된 경우, WAS가 다운되었을 때 특정 페이지를 보여줄 수 있습니다.방법 1 :  커스텀 에러 페이지 설정Nginx의 error_page 디렉티브를 사용하여 특정 상태 코드 발생 시 사용자 지정 HTML 페이지로 리디렉트할 수 있습니다.server { listen 80; server_name yourdomain.com; location / { proxy_pass http://was_server:8080; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarde..
해당일 기준 14일 이전 데이터 파일 삭제 스크립트 스크립트#!/bin/bash# 기준 날짜: 현재 날짜에서 14일 전TARGET_DATE=$(date -d "-14 days" +"%Y-%m-%d")# 파일 패턴 (예: 파일 이름에 날짜 포함된 경우)FILE_PATTERN="*${TARGET_DATE}*"# 삭제할 파일 찾기 및 삭제echo "삭제 대상 파일 목록:"find . -type f -name "${FILE_PATTERN}" -print# 파일 삭제find . -type f -name "${FILE_PATTERN}" -exec rm -f {} \;echo "삭제 완료: ${TARGET_DATE} 기준" 설명date -d "-14 days" +"%Y-%m-%d": 현재 날짜에서 14일 전 날짜를 YYYY-MM-DD 형식으로 계산.FILE_PATTE..

반응형