Home

정보 엔트로피 정보 엔트로피는 어떤 확률 분포를 가진 사건의 불확실성을 측정하는 값이며, 그 사건을 표현하기 위해 필요한 최소 평균 정보량이다. 확률이 높은 사건은 자주 나타나므로, 이를 구분하거나 전달하기 위해 필요한 정보량(비트 수)은 작아도 충분하다. 반대로, 확률이 낮은 사건은 드물게 나타나므로, 이를 명확하게 표현하기 위해서는 더 많은 정보량이 필요하게 된다. 따라서 확률이 낮을수록 정보량은 크고, 불확실성(엔트로피)도 높아지며, 확률이 높을수록 정보량과 불확실성은 낮아집니다. 이제 정보 엔트로피의 수식을 보면, 아래 수식으로 계산된다. \[H(x) = E[I(x)] = -\sum{P...

WandB WandB는 Weights and Bias의 약자로 딥러닝 모델 학습 과정의 loss, 평가 지표 등을 확인할 수 있는 툴로 모델 실험에 도움을 주는 툴이다 print문을 통해 여러 지표들을 출력하거나, 시각화하여 표현하는 것이 필요 없이 metric들이 어케 변하는지 쉽게 확인할 수 있다. WandB 사용해보기 WandB 설치 및 로그인 WandB를 사용하려면 먼저 패키지를 설치하고 로그인(API 키 등록)을 진행해야 한다. 우선 wandb를 import해준다. 만약 없다면 pip install wandb로 설치해주면 된다. 그리고 wa...

sorted() 함수 Sorted() 함수는 정렬을 지원하는 파이썬의 내장함수이다. 정렬 후의 값을 리스트로 반환한다. 즉, 원본을 수정하지 않는다. 또한 모든 iterable객체(list, dictionary, 문자열, set 등)에 적용할 수 있다. reverse 인자를 통해 내림차 순으로 정렬할 수 있고, key 인자에 함수를 넣어 정렬 기준을 Custom할 수도 있다 a = [2, 1, 5, 6, 4] sort_a = sorted(a) print(sort_a) # [1, 2, 4, 5, 6] print(a) # [2, 1, 5, 6, 4] -> 원본 유지 sort() 메서드...

lambda 함수 lambda 함수란 파이썬에서 이름 없이 정의할 수 있는 익명 함수(anonymous function)이다. 기본 형식은 lambda 매개변수: 표현식 으로 정의하여 사용한다. def add(x, y): return x + y 위 코드는 def로 정의된 일반 함수이며, 이를 lambda를 사용하면 같은 기능을 더 간결하게 표현할 수 있습니다. f = (lambda x,y: x+y) f(x, y) 위와 같이 lambda 식을 변수에 대입해 사용할 수 있다. 만약, 일회용으로 한 번만 사용하고 싶다면 다음과 같이 바로 호출할 수도 있다. (lambda...

Docker Hub에서 mysql 이미지 불러오기 및 Container 실행 Docker hub에서 mysql 8.0버전의 이미지를 pull한다. docker pull mysql:8.0 pull한 mysql이미지를 통해 Container를 실행시킨다. docker run --name {Container 이름} \ -e MYSQL_ROOT_PASSWORD={사용할 비번} \ # 환경변수 설정 -d \ # 백그라운드(demon)으로 실행 -p {local port}:{container 내부 port} \ {Image 이름}:{Image Tag} DBeaver 연동하기 ...