본문 바로가기

전체 글

t-sne 정형데이터/분류시 사용 t-분포 확률적 임베딩은 데이터의 차원 축소에 사용되는 기계 학습 알고리즘 중 하나로, 2002년 샘 로이스Sam Rowise와 제프리 힌턴에 의해 개발되었다. t-SNE는 비선형 차원 축소 기법으로, 고차원 데이터를 특히 2, 3차원 등으로 줄여 가시화하는데에 유용하게 사용된다.feature개수는 몇 천개고, train,test데이터 불균형은 심할 때, 어느 부분이 얼마나 다른지 확인해야될 때가 있다. 이때 사용하면 유용하다. 모 대회에서는 train 데이터 셋과 test 데이터 셋의 차이가 심하고, 심지어 test의 특정 class가 train에 거의 없는 것만 들어간 적이 있었다. 일반적인 분류알고리즘으로 성능이 너무 안나와서 t-sne를 그려보니, test의 데이터셋에 알 수 없는 class가 뭉.. 더보기
kaggle에서 원격 데이터 로드, 파일 다운 안될 때 Downloading files in Kaggle gives - 'failed: Temporary failure in name resolution' error Downloading files in Kaggle gives - 'failed: Temporary failure in name resolution' errorI try to download a script from github on Kaggle - !rm -rf utils.py !wget raw.githubusercontent.com/sevenfx/fastai_audio/master/notebooks/utils.py I get this error - Resolving raw.stackoverflow.com Settings 에 internet on .. 더보기
mac OS 에서 graphviz설치 pip install pydotconda install graphvizmac OS 에서 graphviz설치는 무적건 conda로 한다.개별적인 pip로 되지 않는다.%pip install pydot==2.0.0#%pip install pydotplus#%pip install graphviz이렇게 하면 설치는 개별적으로 되는데, 동작이 불가능한 버전으로 깔린다. graphviz는 이미지생성 해주는 라이브러리이고  mac에 맞는 것을 conda가 깔아준다.결론  conda만세 더보기
강화학습 deadly triad 불안정성을 높이는 치명적 삼위일체* 함수근사: 메모리와 컴퓨터의 계산 능력을 훨씬 능가하는 상태 공간으로부터 일반화를 수행하는 강력하고 측정 가능한 방법(선형 함수 근사 또는 ANN)* 부트스트랩: mc 방법처럼, 실제 보상 및 완전한 이득에 전적으로 의존하기 보다는 (동적 프로그래밍이나 TD방법처럼) 이미 존재하는 추정값을 포함하고 있는 목표를 갱신하는 것* 비활성 정책 훈련: 목표 정책에 의해 만들어진 분포보다는 전이의 분포에 대해 훈련하는 것. 동적 프로그래밍에서처럼 상태 공간에 있는 모든 상태를 균일하게 일괄적으로 갱신하는 것은 목표 정책을 따르지 않는다. 이것이 비활성 정책 훈련의 예제이다.함수근사를 피하는 게 가장 어렵다. 규모가 큰 문제로의 확장성 및 굉장히 많은 것을 표현할 수 있는 능력을.. 더보기
MLM (Masked Language Model) BERT에서 사전학습은 MLM과 NSP를 통해 이뤄짐MLM(Masked Language Model)입력문서 내 단어(토큰)의 15%가 [MASK]토큰으로 가려지고, 원래 단어를 추측하는 빈칸 채우기 (fill-in-the-blank)작업NSP(Next Sentence Prediction): 두 개의 문장을 선택해서 그들이 원래 문장에서 (앞뒤로 놓인)연속적인 문장인지 아닌지를 예측하는 작업BERT, ALBERT, DistilBERT 모델의 MLM 결과는 비슷하다https://github.com/jasonyim2/book3/blob/main/Transformers%2017-26.ipynb book3/Transformers 17-26.ipynb at main · jasonyim2/book3Contribute.. 더보기
python arg생성 후 실행 안되는 에러 "error: unrecognized arguments: -f" 가 떴을 때,#방법1#args = parser.parse_args() #AS-isargs, unknown = parser.parse_known_args()윗줄을 두번째 줄과 같이 바꿔준다.#방법2또는parser.parse_args('')처럼 빈 arg스트링 하나를 넣어도 된다. 더보기
device가 사용중일 때 나타나는 에러 process %d terminated with exit code %d 더보기
스크럼,애자일에 관한 좋은 글 https://yozm.wishket.com/magazine/detail/1728/?fbclid=IwAR2xvJ2tGmFg_zFZW6gtby6S4f_u_4ts5Y8KSuzCPn3dARv8_ejnnN-hniQ&mibextid=li3ck7 더보기