본문 바로가기

분류 전체보기150

[Asymmetric Attributes] Concepts Asymmetric Attributes (비대칭 속성)비대칭 속성(asymmetric attributes)이란,속성값 중에서 '존재(presence)'만 중요하고, '부재(absence)'는 중요하지 않은 속성을 말합니다.▶︎ 예시: 문서 내 단어 출현 여부 (텍스트 마이닝)문서 A문서 B"apple", "banana", "grape""apple", "grape"여기서 단어 "banana"가 문서 A에만 등장하고, B에는 없다고 해도,우리는 보통 "banana가 없다는 사실"을 중요하게 여기지 않습니다.중요한 건 어떤 단어가 **"포함돼 있느냐"**지, 포함돼 있지 않다는 건 비교에 큰 영향을 주지 않아요.▶︎ 예시: 고객 구매 내역 (장바구니 분석)A고객: 우유, 계란, 치즈B고객: 우유, 계란→ 이 .. 2025. 4. 18.
[Law of Large Numbers] Key Concepts Law of Large Numbers (대수의 법칙) 대수의 법칙이란?동일한 실험을 반복할수록, 관측된 비율(실험적 확률)이 이론적 확률에 수렴한다는 법칙입니다.예: 공정한 동전을 1,000번 던지면, 앞면이 나오는 비율은 이론적으로 0.5에 가까워짐❌ Misunderstanding of LLN ① – “보정 효과가 있을 것이다”🔻 오해:"동전을 10번 던졌는데 모두 앞면(H)이 나왔어.다음번에는 뒷면(T)이 나올 확률이 더 높겠지?"🧠 진실:No! 확률은 항상 독립적입니다.매 시행마다 앞면이 나올 확률은 여전히 0.5, 뒷면도 0.5과거의 결과는 미래의 결과에 영향을 주지 않음이 오해는 "Gambler's Fallacy (도박사의 오류)"라고도 불립니다.❌ Misunderstanding of LLN.. 2025. 4. 17.
[Tuning Hyperparameters] Concept 전제: 하이퍼파라미터 튜닝이 중요한 이유?딥러닝 모델의 성능은 학습률, 은닉 뉴런 수, 배치 크기 등 하이퍼파라미터에 크게 좌우됨하지만 가능한 조합은 너무 많고,→ 모든 조합을 다 실험하기는 불가능→ 그래서 현실적인 탐색 전략이 필요해요Coarse-to-fine Sampling Scheme의미:처음에는 넓고 거칠게 탐색하고,가능성 있는 영역을 찾으면 그 근처를 좁고 촘촘하게 탐색하자!단계적 접근:Stage 1: Coarse Sampling예: learning rate ∈{0.0001,0.01,1}\in \{0.0001, 0.01, 1\}, batch size ∈{8,64,512}\in \{8, 64, 512\}빠르게 전체 지형을 살펴보는 느낌약간 부정확하더라도 성능이 급격히 떨어지는 조합은 빠르게 제외 .. 2025. 4. 16.
[Weight Initialization] Concept 배경: 우리는 왜 weight 초기화를 고민할까?딥러닝에서 학습은 다음과 같은 계산을 반복합니다: 혹은 벡터 형태로:여기서 x는 입력값w는 학습해야 하는 가중치y는 각 layer에서 나오는 출력값목표: 학습 초기에 출력 y가 너무 크지도, 너무 작지도 않게 만들기왜냐하면:너무 크면 → activation 함수가 saturation zone으로 진입 → gradient 사라짐 (학습 안 됨)너무 작으면 → 정보가 소멸됨 → gradient도 작아짐 → 역시 학습 잘 안 됨→ 그래서 출력의 분산이 너무 커지거나 작아지는 걸 막아야 함“입력과 출력의 분산이 비슷했으면 좋겠다”의 의미이건 아래처럼 생각하면 돼요:"입력값 x가 다양한 값을 가지고 있다면,출력값 y도 그 다양성을 어느 정도 반영해야다음 layer에.. 2025. 4. 16.
[.whl] Install Package with '.whl' pip install로 패키지를 인터넷에서 다운받아오는 것이 아닌,.whl을 활용하여 (인터넷 없이도) 패키지를 다운받아보자!! 1. .whl 파일을 jupyter notebook이 위치한 곳으로 이동시키자.linux ubuntu 서버 터미널에 명령어 입력.sudo cp -r "/home/ubuntu/pip_pkgs/패키지파일명.whl" /home/ubuntu/workspace/nasw/download/2. 이제 .whl 파일을 활용해 패키지를 다운받자!!pip install 패키지경로 이렇게 하면 보통은 패키지를 사용할 수 있다~ 근데,, .whl의 python version과 현재 나의 python version이 안 맞으면 안된다. 에러 메시지:ERROR: pandas-2.2.3-cp39-cp39-.. 2025. 4. 10.
[pyenv] Installation pyenv Installpyenv 는 사용자의 홈 디렉토리에 설치되기 때문에, sudo 없이도 설치가 가능합니다.# 필요한 디렉토리 준비curl https://pyenv.run | bash# pyenv 환경변수 추가 (.bashrc)echo 'export PYENV_ROOT="$HOME/.pyenv"' >> ~/.bashrcecho 'export PATH="$PYENV_ROOT/bin:$PATH"' >> ~/.bashrcecho 'eval "$(pyenv init --path)"' >> ~/.bashrcecho 'eval "$(pyenv init -)"' >> ~/.bashrc# 적용source ~/.bashrc# 설치 완료 후 확인pyenv --version 정상적으로 pyenv 설치가 완료된 상태입니.. 2025. 4. 10.

티스토리툴바