pytorch tensor의 크기가 클 때 indexing 연산이 생각보다 오래 걸린다. 이를 해결하기 위한 방법을 공유하고자 한다. 코드를 짜면서 크기가 큰 텐서를 인덱싱해야 했다. 인덱싱 한 후 역전파를 하니 학습 시간이 너무 오래 걸려서 어떤 문제인지 찾다가 인덱싱 연산이 생각보다 큰 비용이 발생하는 것을 알게 되었다. CUDA profiling을 통해 각 CUDA kernel이 사용하는 자원을 보았다참고로 CUDA profiling은 아래 처럼 할 수 있다.with torch.autograd.profiler.profile(use_cuda=True) as prof: ''' 프로파일링 하고 싶은 코드 블럭 ''' print(prof.key_averages().table(sort_by..

석사 입학 후 맞이하는 첫 방학이다. 12월 말부터 연구실 인턴을 시작했으니 인턴 기간을 따지면 35주, 석사 입학으로 따지면 연구실 생활을 시작한지 21주가 지났다. 학기에 두 번 정도 글을 써보려고 생각했지만 중간에 여러 가지 일이 있어서 글을 못쓰고 있었다.지금은 토요일 오전에 심심해서 글 쓰는 중 [석사 입학 후 7주차일 때 씀] 글을 쓸 때와 비교해서 대학원 생활에 느끼는 만족감이 조금 달라졌다.이번에도 만족하는 이유, 불만족하는 이유로 나눠서 말해보려고 한다. 만족하는 이유1. 여러모로 발전하고 있는 느낌을 받는다.연구실 사람이 다들 좋다고 말했었는데 이 사람들과 같은 주제로 이야기하면서 토론할 수 있다는 게 재밌고 이 과정에서 연구적으로나 정신적으로나 발전하고 있는 것 같다. 우리 연구실은..

이번 주는 학기 기준 7주차이다. 연구실에 출근한 지는 3개월 정도 지난 것 같다. 우리 연구실은 수요일에 미팅을 하는데 미팅이 끝나고 시간이 좀 여유로워서 글을 쓰고 있다. 나는 현재 00대학교에서 석사 과정(계약학과)를 하고 있다. 석사 졸업 후에는 ~~기업 연구직으로 입사가 보장되어있다.나는 학부생 때 부터 석사까지는 무조건 하고 싶었고 계약학과라는 것이 굉장히 매력적이었다.따라서 지금 내가 하고 있는 과정이 나에게는 매우 좋은 기회이다. 근데 지금 누가 나한테 얼마나 만족하고 있는지 물어보면(만족/보통/불만족)보통이라고 답할 것 같다. 보통이라는 것은 만족하는 이유 반, 불만족하는 이유 반일 것이다. 만족하는 이유1. 연구실 사람이 좋다.이게 만족하는 이유 중 가장 큼, 다들 뭔가 여유롭고 어둡지..

LG전자 채용계약학과 Software R&D 전형에 최종 합격했다.이 전형은 LG전자의 지원을 받으며 회사에서 지원한 대학원 석사 과정을 마친 후 LG전자 R&D 부서로 가는 전형이다.나는 연세대학교 AI대학원 지능융합협동과정에서 석사과정을 진행할 예정이다. 채용계약학과는 정보가 많이 없어서 조금이라도 정보를 만들고자 글을 쓰고 있다. https://thousandbell.tistory.com/84 취준, 지원 당시의 스펙취업, 대학원 지원 후기를 쓰려고 하는데 나의 전형 과정에서의 객관적인 스펙이 있어야 참고가 될 것 같아서 올린다. 지원 때 사용한 정량적 스펙만 적겠다. [학적]인하대학교 정보통신공학과thousandbell.tistory.com나의 정량적 스펙은 위와 같다.2차면접LG전자 채용계약학과..

LG전자 채용계약학과 Software R&D 전형에 최종 합격했다.이 전형은 LG전자의 지원을 받으며 회사에서 지원한 대학원 석사 과정을 마친 후 LG전자 R&D 부서로 가는 전형이다.나는 연세대학교 AI대학원 지능융합협동과정에서 석사과정을 진행할 예정이다. 채용계약학과는 정보가 많이 없어서 조금이라도 정보를 만들고자 글을 쓰고 있다. https://thousandbell.tistory.com/84 취준, 지원 당시의 스펙취업, 대학원 지원 후기를 쓰려고 하는데 나의 전형 과정에서의 객관적인 스펙이 있어야 참고가 될 것 같아서 올린다. 지원 때 사용한 정량적 스펙만 적겠다. [학적]인하대학교 정보통신공학과thousandbell.tistory.com나의 정량적 스펙은 위와 같다.1차면접LG전자 채용계약학과..