전체 글

지니의 공부 아카이브
🤖 Today-I-Learned ]/Deep Learning

Transfer learning, Multi-task learning, Meta learning, Few-shot learning

Transfer learning, Multi-task learning, Meta learning, Few-shot learning 헷갈리는 개념들을 정리할 때 꼭 필요한 마법의 그림, 학부 수업에서 이 그림으로 배워서 더 쉽게 느껴지는 것 같기도 하다. One/Zero shot learning When the number of samples in each class is one, it’s called one shot learning. When it’s zero, it’s called zero shot learning. One shot learning is always studied in few shot learning while zero shot learning is not the same. In few..

🔨 Trial and Error Log

[기본 코드] 주피터노트북 디폴트 코드

보통 데이터 로드나 간단한 시각화, EDA를 할때 내가 항상 거의 디폴트로 설정해놓는 코드이다. 가장 먼저 적고 시작한다. # ready import json import os import pandas as pd import numpy as np from tqdm.notebook import tqdm import pickle # 시각화 import matplotlib.pyplot as plt import seaborn as sns import warnings %matplotlib inline plt.style.use('seaborn') # seaborn 스타일로 변환 # plt.rc('font', family='AppleGothic') # 폰트 스타일 plt.rc('axes', unicode_minus=..

🤖 Today-I-Learned ]/Statistics & Machine Learning

Hölder's inequality 증명

Holder's inequeality 증명 코시슈바르츠 부등식(Cauchy-Schwarz inequality)은 Hölder's inequality 의 특별한 경우이다. (p=q=2의 경우) 따라서 근-본이 되는 holder inequality(Hölder's inequality) 의 증명은 다음과 같다. 이 부등식과 연관된 부등식은, jensen's inequality, Hölder's inequality, Cauchy-Schwarz inequality 이다. 사용되는 Lemma에 대한 증명 Hölder's inequality 증명

🗂 REVIEW/Graph Study

[CS224W] General Tips

8강 뒷부분에는 General Tips 와 Practical Demos 라는 페이지가 일부 더 있습니다. 이 중 General Tips 가 생각치도 못했던? 재밌는 부분이 있어서 번역해놓겠습니다. General Tips 1. 데이터 전처리는 중요하다. renormalization tricks을 사용해라 https://discuss.dgl.ai/t/how-to-implement-the-renormalization-trick/86 Variance - scaled initialization : 분산 스케일링을 하는 초기화를 사용해라 Network data를 whitening해라 whitening : data를 uncorrelated 하게 만들어주고 각각의 variance를 1로 만들어주는 작업 ucsd.tis..

🗂 REVIEW/Graph Study

[CS224W] 8. Graph Neural Networks

업로드가 조금 늦어졌습니다. ㅎㅎ 8강은 성실함의 대명사 이재빈님께서 리뷰하셨습니다. Graph에 Neral Network, GNN을 적용하는 강의 입니다. 크게 Graph에 Deep learning을 적용하는 개요와, Neighborhood aggregation을 배우고 NN을 이용하는 GNN, GCN, GAT 모델들을 알아봅니다. 목차 0. Intro 1. Basics of Deep Learning for Graphs 2. Graph Convolutional Network (GCN) 3. Graph Attention Network (GAT) 4. Application 0. Intro Node Embedding 먼저 7강에서 node embedding에 대해서 배웠습니다. 본래의 network node..

🎆 Daily Life

What's on my desk

What's on my desk,, 👩🏻‍💻 할 일이 너무너무너무 많아서 일에 압사 당할 것 같다! 그래서 방금까지도 시간가는 줄 모르고 공부하다가, 갑자기 아이패드가 죽어서 정신이 번뜩 들고 누웠다...(아이패드 에어3의 고질적인 고장이라고 해서 내일 상담신청했다...) 이참에 방금까지 나는 어떤 곳에 앉아서 공부하고 있나..기록해보려고 한다. 이게 가장 좋아하는 책상의 모습이다. 왼쪽에는 아이패드를 듀얼모니터로 쓰고 가운데에는 노트북 거치대와 맥북이! 그리고 오른쪽에는 내 플래너 겸 노트로 쓰는 트래블러스노트와 차, 헤드폰이있다. 아이패드 🍎 아이패드 에어3는 작년에 갑자기 아이패드병에 걸려서 년초에 구입했는데, 너무 너무 잘 쓰고 있고 없는 삶은 아직 생각해본적이 없어서 고장이 더 마음이 아프다....

지니티토리
지니티토리