비전공자의 인공지능 고군분투기

안녕하세요, 오늘은 굉장히 유명한 Stanford 대학교의 CS231N 강의에 대해 리뷰해보도록 하겠습니다. 인공지능을 하시는 분들이라면 해당 강의를 한 번씩은 접해보셨을 거라 생각합니다.한번 더 공부하시고 싶은 분들이나 처음 접하시는 분들에게 도움이 되는 글이길 바라면서Lecture 1 | Introduction to Convolutional Neural Networks for Visual Recognition  시작하도록 하겠습니다.  1. 소개The amount of visual data in our world has really exploded to a ridiculous degree in the last couple of years. And, this is largely a result of t..

안녕하세요,오늘은 MIT Gilbert Strang교수님의 Linear algebra 6강 Column Space and Nullspace에 대해 리뷰해보도록 하겠습니다.   Vector SpaceA vector space is a collection of vectors which is closed under linear combinations. In other words, for any two vectors v and w in the space and any two real numbers c and d, the vector cv + dw is also in the vector space. A subspace is a vector space contained inside a vector space. Ve..

안녕하세요, 오늘은 에피소드4 U of T Life2025 UofT AI 융합 교육프로그램 2기 면접으로 적어가려 합니다.  지난번 에피소드3(https://dosthbold.tistory.com/18)에서는 U of T Life2025 UofT AI 융합 교육프로그램 2기 2차전형인 실기시험(수학, 코딩)에 대한 후기 및 안내를 드렸었습니다!   2차 전형 결과는 서강대학교 글로벌 AI 인재양성센터(https://scc.sogang.ac.kr/front/cmsboardlist.do?siteId=globalaiedu&bbsConfigFK=5451) 의 공지사항에 업로드가 되었습니다. 7월 13일날 시험을 보고 5일 뒤인 금요일날 아침에 아래(그림1)처럼 공지사항 업로드가 되었더라구요. 이렇게 메일로 확인..

안녕하세요, 오늘은 에피소드3.U of T Life2025 UofT AI 융합 교육프로그램 2기 시험 및 면접으로 적어가려 합니다. 지난번 에피소드2(https://dosthbold.tistory.com/4)에서 U of T Life2025 UofT AI 융합 교육프로그램 2기 지원을 하였습니다. 24년 6월 26일에 서류제출을 하였고, 7월 4일 목요일 아침에 1차 전형 합격에 대한 이메일을 받았습니다. 이메일에는 [2차 실기전형 안내]와 [시험관련 지원자 유의사항] 에 대한 내용이 포함되었습니다.  2차 실기전형 (7월 13일, 토) 2차 실기전형은 1차 서류전형 합격자 발표(7월 4일) 이후 7월 13일(토)에 시행했습니다. 장소는 서강대학교 정하상관과 다산관에서 진행이 되었습니다.정하상관은 신촌역..

안녕하세요,  오늘은 QLoRA (Quantized Low-Rank Adapter) 에 대해 간단하게 리뷰해보도록 하겠습니다.QLoRA는 파라미터 효율적 미세 조정(PEFT, Parameter-Efficient Fine-Tuning)을 위한 방법 중 하나로, 대형 언어 모델(LLM)을 저비용으로, 더 적은 자원으로 미세 조정하기 위해 설계되었습니다. 특히 FP4(4-bit 부동소수점) 양자화와 낮은 Rank 어댑터(Low-Rank Adapter)를 결합하여 효율성과 성능을 극대화합니다. 그렇다면, LoRA와 QLoRA의 차이가 무엇일까요? LoRA는 기존 모델의 일부 파라미터만 저랭크 형태로 미세 조정하여 메모리와 연산 비용을 줄이는 방법이고,QLoRA는 LoRA에 4비트 양자화를 추가하여 더 적은 메모..

안녕하세요, 오늘은 MIT 선형대수(Linear algebra) 5강 Transposes, permutations, vector spaces에 대해 학습해보겠습니다.   Permutations(치환)Multiplication by a permutation matrix치환행렬은 행교환 (row exchange)을 수행하는 행렬이다. 행교환은 pivot이 0인 경우에 반드시 필요하다. P swaps the rows of a matrix; when applying the method of elimination we use permutation matrices to move ze­ros out of pivot positions. Our factorization A = LU then becomes PA = LU,..

안녕하세요,  오늘은 Computer Vision 논문리뷰를 해보려고 합니다. 비전공자이다보니까 수식이 어떻게 활용되었는지 논문을 읽을때마다 어렵기도 하고, 어려운 부분인 것 같아요.제가 다룰 논문 리뷰들에서는 어떻게 수식이 적용되었는지 보여드릴 예정이니 비전공이신분들도 두려워마시고 차근차근 읽어서 가져가시기 바랍니다. Multimodal에 관한 연구를 하시는 분들에게 조금이나마 도움이 되시기 바랍니다.  DreamBooth: Fine Tuning Text-to-Image Diffusion Models for Subject-Driven Generation ( Ruiz, N., Li, Y., Jampani, V., Pritch, Y., Rubinstein, M., & Aberman, K. CVPR 2023..

안녕하세요, 오늘은 MT Gilbert Strang 교수님의 Linear Algebra 수업 Lecture4, Factorization into A = LU 에 대해 다루어보겠습니다.      Inverse of a productThe inverse of a matrix product AB is B−1 A−1. AB의 역행렬은 B−1 A−1이다.  Transpose of a product행과 열을 바꿀 때 사용the entry in row i column j of A is the entry in row j column i of A^T열I와 행J의 A를 열J와 행I으로 바꾼 것을 A^T라고 한다. The transpose of a matrix product AB is BTAT. For any invert..

안녕하세요 오늘은 MIT Gilbert Strang교수님의 Linear algebra 3강 Multiplication and Inverse Matrices를 공부하도록 하겠습니다. Matrix A multiplying 1. Column Combination행*열의 곱을 원소별 계산으로 정리할 수 있다. (대부분은 벡터로 표현)If they are square, they have got to be the same.If they are rectangular, they are not the same size.here goes A, again, times B producing C.A times a vector is a combination of the columns of A.because the columns ..

안녕하세요, 오늘은 MIT Gilbert Strang교수님의 선형대수 강의 Lecture#2 Elimination with Matrices로 공부해보도록 하겠습니다.  Method of EliminationElimination is the technique most commonly used by computer software to solve systems of linear equations. It finds a solution x to Ax = b whenever the matrix A is invertible. In the example used in class,The number 1 in the upper left corner of A is called the first pivot.The first..