just-data

머신러닝과 통계학은 매우 밀접한 관련이 있습니다.  그중, MLE(Maximum Likelihood Estimation)와 MAP(Maximum A Posterior)은 머신러닝 분야와 통계학을 이어주는 중요한 개념이라고 개인적으로 생각하고 있습니다. 따라서, 앞으로 몇 가지의 통계학(Statistics) 포스팅은 이 두 가지 개념을 머신러닝 관점에서 다루는 글을 작성하고자 합니다. 먼저, Bayes Theorem(베이즈 정리)에 대해서 알아보도록 하겠습니다. 그전에 Conditional Probability(조건부 확률)에 대해서 설명해 보면, 조건부 확률은 어떤 사건 $B$가 발생했다는 조건 하에서 다른 사건 $A$가 발생할 확률을 의미합니다. 이를 수식으로 표현하면 다음과 같습니다.$$P(A \mi..

MLOps(Machine Learning Operations)는 머신러닝(ML) 시스템이 현대 비즈니스 환경에서 증가하는 데이터 복잡성과 빠르게 변화하는 요구사항에 효과적으로 대응하기 위해 등장했습니다. 초기의 ML 시스템은 연구 및 실험 수준에서 사용되었으나, 비즈니스 적용이 확대되면서 운영 단계에서의 문제들이 부각되었습니다. 이러한 문제에는 데이터의 변화로 인한 모델 성능 저하, 예측 서비스의 불안정성, 수동 관리로 인한 운영 부담 등이 포함됩니다. 특히, ML 시스템 운영의 핵심 과제는 다음과 같습니다.데이터의 변화에 대한 적응성데이터는 시간에 따라 변화하거나 품질에 문제가 생길 수 있습니다. 이를 무시하면 모델 성능 저하로 이어질 가능성이 큽니다.운영 효율성데이터 준비, 모델 학습, 검증, 배포 ..

Matrix Multiplication TransformationA transformation(or function or mapping) &T& from $\mathbb{R}^n$ to $\mathbb{R}^m$ Matrix Transformation Ex.$$ \begin{bmatrix}1&0&0 \\0&1&0 \\0&0&1 \end{bmatrix}=A$$$$ \begin{bmatrix}1&0&0 \\0&1&0 \\0&0&1 \end{bmatrix}\begin{bmatrix}x_1\\x_2\\x_3\end{bmatrix}=\begin{bmatrix}x_1\\x_2\\0\end{bmatrix}$$ Ex.$$\begin{bmatrix}1&3 \\0&1 \end{bmatrix}$$$$\begin{bmatri..

Git을 사용해서 코드를 작성할 때 특정 시점의 커밋(commit)을 삭제하고 싶은 경우가 있습니다. 이런 상황을 가정해서 미리 두 가지의 commit을 생성해 놓았습니다. 우선, 커밋의 해쉬 아이디를 알아보기 위해 아래 명령어를 입력합니다.git log 이때 내가 지우고 싶은 커밋의 전 커밋 아이디를 복사합니다. 그리고 아래 명령어를 입력합니다.git rebase -i commit_아이디 그럼 "hint: Waiting for your editor to close the file..."라는 문구와 함께 아래와 같이 git-rebase-todo 파일이 열립니다. 이때, 위에 제거하고 싶은 커밋의 pick을 drop으로 변경하면 됩니다. 그리고 종료해 주면, Successfully rebased and u..

Linearly Independence A set of vectors $\begin{Bmatrix}\mathbf{v}_1 & \mathbf{v}_2&\cdots& \mathbf{v}_p\end{Bmatrix}$ in $\mathbb{R}^n$ is sasid to be linearly independentif the vector equation $x_1\mathbf{v}_1+ x_2\mathbf{v}_2+\cdots + x_p\mathbf{v}_p=\mathbf{0} $ has only the trivial solution  → coefficient가 모두 0인 솔루션만 존재 Linearly DependenceA set of vectors $\begin{Bmatrix}\mathbf{v}_1 & \math..

Homogeneous Linear systems$A\mathbf{X}=\mathbf{0}$ always has at least one solution $\mathbf{X}=\mathbf{0}$. (Trivial Solution) if and only if the equation has at least one free variables(infinitely many solutions): Nontrivial Solution   Ex. Determine whether there is a nontrivial solution.$$\left\{\begin{matrix}3x_1+5x_2-4x_3=0  \\ -3x_1-2x_2+4x_3=0  \\ 6x_1+x-2-8x_3=0 \end{matrix}\right. $$ So..

$A \mathbf{X}$: Product of $A$ and $ \mathbf{X}$ $A$ is $m \times n$, with columnns $\mathbf{a}_1, \mathbf{a}_2, \cdots, \mathbf{a}_n$$$\mathbf{X} \; in \; \mathbb{R}^n$$ $$A\mathbf{X}=[\mathbf{a}_1, \mathbf{a}_2, \cdots, \mathbf{a}_n]\begin{bmatrix}x_1 \\ \vdots\\ x_n \end{bmatrix}=x_1\mathbf{a}_1+x_2\mathbf{a}_2+ \cdots + x_n\mathbf{a}_n$$ → the linear combination of the columns of $A$ using t..

Vectors in $ \mathbb{R}^2$$$\mathbf{u}=\begin{bmatrix}3 \\-1\end{bmatrix} =(3,-1), \mathbf{v}=\begin{bmatrix} 0.2 \\0.3 \end{bmatrix} =(0.2,0.3), \mathbf{w}=\begin{bmatrix} w_1 \\w_2 \end{bmatrix} =(w_1,w_2)$$ ※ vector를 나타내는 기호는 bold로 작성합니다.※ $ \mathbb{R}^2 $: R2 Space Vector Summarization$$\mathbf{u}+\mathbf{v}=\begin{bmatrix}3 \\-1\end{bmatrix}+\begin{bmatrix}0.2 \\0.3\end{bmatrix} =\begin{bma..

A nonzero row or columnA leading entry of row: the leftmost nonzero entry※ entry: values in matrixEchelon FormsAll nonzero rows are above any row of all zeros.Each leading entry of a row is in a column to the right of the leading entry of the row above itReduced echelon formsThe leading entry in each nonzero row is 1.Each leading 1 is the only non zero entry in its column.Theorem 1. Uniqueness o..

A linear equations in the variables $x_1, x_2, ..., x_n$ should be of below form. $$a_1x_1 + a_2x_2 + ... + a_nx_n = b$$A System of linear equations(=linear system): a collention of one or more linear equations.$$x_1-2x_2=1$$$$-x_1+3x_2=3$$ Solution set: The set of all possible solutions of the linear system.→ Two linear systems are called Equivalent if they have the same solution set. A system ..