[빅데이터분석] R _ 52. 주성분 분석

★ 240710 점심시간문제 :
다음은 어느 커피 프랜차이즈점의 음료 구매 데이터 입니다. 성별별로 선호하는 커피 종류가 다른지 카이제곱 검정을 수행하세요.첨부된 csv 파일을 불러와서 카이제곱 검정을 수행하고 결과를 해석하세요.
 
어제 배운 gmodels 의 CrossTable 이원교차표를 이용해서 수행하세요.

coffee_preference.csv

0.00MB

귀무가설(H0): 성별(남/여)과 선호하는 커피 종류(아메리카노/라떼) 간에는 관계가 없다.
                       (즉, 성별에 따라 선호하는 커피 종류가 다르지 않다.)
 
대립가설(H1): 성별(남/여)과 선호하는 커피 종류(아메리카노/라떼) 간에는 관계가 있다.
                        (즉, 성별에 따라 선호하는 커피 종류가 다르다.)
 

# 데이터 업로드
setwd('c:\\data')
coffee<- read.csv('coffee_preference.csv',header =T, fileEncoding ='UTF-8') 
coffee

# 이원교차표표

library(gmodels)

CrossTable( coffee$성별, coffee$선호커피, chisq=TRUE )​

=> p-value 가 0.05 보다 높으므로 귀무가설 채택. (성별에 따라 선호하는 커피 종류가 다르지 않다)

★ 240711 점심시간문제 : 자동화 스크립트 9번에 유방암 분류 knn 머신러닝 스크립트를 추가하세요 

setwd('c:\\data')
source('chj.R')​

# 필요한 패키지 설치 및 로드
if (!require("readr")) install.packages("readr")
if (!require("dplyr")) install.packages("dplyr")
if (!require("caret")) install.packages("caret")
if (!require("class")) install.packages("class")
if (!require("plotly")) install.packages("plotly")

library(readr)
library(dplyr)
library(caret)
library(class)
library(plotly)

# 1단계: 데이터 수집
iris <-  read.csv("c:\\data\\iris2.csv", stringsAsFactors=TRUE)

head(iris)
unique(iris$Species) #3개 (setosa, versicolor, virginica)

nrow(iris)  # 150
ncol(iris)  # 5

# 2단계: 데이터 탐색
# 1. 결측치 확인
colSums(is.na(iris))

# 2. 종속변수의 데이터 비율
table(iris$Species)
prop.table(table(iris$Species))  # t1,t2,t3 의 데이터의 비율이 동일함


# 3. 데이터 스케일링 (최대최소 정규화)
iris2 <- iris[, c(-5)]  # 정답 species 제외
iris2
normalize <- function(x) { return((x - min(x)) / (max(x) - min(x))) }
iris_n <- as.data.frame(lapply(iris2, normalize))
summary(iris_n)

# 3단계: 모델 훈련
# 훈련 데이터와 테스트 데이터를 분리합니다. 90% 학습, 10% 시험
set.seed(10)
train_indx <- createDataPartition(iris$Species, p = 0.9, list = FALSE)
train_indx 

# 기계를 학습 시킬 훈련 데이터와 테스트 데이터 생성
iris_train <- iris_n[train_indx, ]
iris_test <- iris_n[-train_indx, ]
nrow(iris_train)  #  135
nrow(iris_test)   #   15

# 기계를 학습 시킬 훈련 데이터의 정답과 테스트 데이터의 정답 생성
iris_train_label <- iris$Species[train_indx]
iris_test_label <- iris$Species[-train_indx]
length(iris_train_label)  #  135
length(iris_test_label)   #   15

# 4단계: 모델 성능 평가
accuracies <- data.frame(k = integer(), accuracy = numeric())

set.seed(10)
for (i in seq(1, 57, 2)) {
  result1 <- knn(train = iris_train, test = iris_test, cl = iris_train_label, k = i)
  accuracy <- sum(result1 == iris_test_label) / length(iris_test_label) * 100
  accuracies <- rbind(accuracies, data.frame(k = i, accuracy = accuracy))
  print(paste(i, '개 일때 정확도 ', accuracy))
}

# 정확도 데이터 프레임 확인
accuracies

# plotly로 라인 그래프 시각화
fig <- plot_ly(accuracies, x = ~k, y = ~accuracy, type = 'scatter', mode = 'lines+markers', line = list(color = 'red'))
fig <- fig %>% layout(title = "K 값에 따른 정확도",
                      xaxis = list(title = "K 값"),
                      yaxis = list(title = "정확도"))
fig



# knn 모델을 생성 및 예측
library(class)

result1 <- knn(train=iris_train,test=iris_test,cl=iris_train_label, k=1)
# 설명: knn(train=훈련 데이터, test = 테스트 데이터 , cl =훈련데이터 정답, k=최근접값)
result1

# 정확도 확인
sum(result1 ==iris_test_label) / length(iris_test_label)*100

KNN.R 로 코드 저장후 CHJ.R 파일에 추가하여 자동화 코드 생성

 

---

■ 주성분 분석

■ 1. 주성분 분석(PCA)란?

고차원의 데이터를 낮은 차원의 데이터로 변환하여, 머신러닝, 데이터마이닝,
통계 분석, 노이즈 제거 등 다양한 분야에서 사용되는 통계이론입니다.

■   2. 왜 중요할까?

데이터가 간단해져 이해하기 쉬워집니다.

그림:  아이리스 데이터를 주성분 분석하여 2차원으로 시각화

관련 그림: https://cafe.daum.net/oracleoracle/Sotv/519

# 필요한 패키지 설치 및 로드
install.packages("ggplot2")
install.packages("plotly")

library(ggplot2)
library(plotly)

# 아이리스 데이터셋 로드
iris_data <- read.csv("c:\\data\\iris2.csv")

# 주성분 분석 수행
pca_result <- prcomp(iris_data[, 1:4], scale. = TRUE)
 ## 설명: prcomp는 주성분 분석하는 함수이고 scale=TRUE 는 데이터를 표준화 하여 분석해라 
 ## 평균:0 / 분산:1 로 조정
 ## pca_result를 출력해보면 각각의 주성분과 원래변수와의 상관계수를 나타낸다. 
 
# 주성분 점수 추출
pca_scores <- data.frame(pca_result$x)
 ## 각각의 데이터 포인트가 주성분 공간에서 어디에 위치하는지를 설명하는 것(pca_score는 그 포인트의 좌표값임)
 
pca_scores$Species <- iris_data$Species

# 2차원 시각화
p <- ggplot(pca_scores, aes(x = PC1, y = PC2, color = Species)) +
  geom_point(size = 3) +
  labs(title = "PCA 결과", x = "PC1", y = "PC2") +
  theme_minimal()

# plotly를 사용한 인터랙티브 시각화
p_interactive <- ggplotly(p)

# 시각화 출력
p_interactive

standard deviations : 표준편차(분산값에 루트 씌움)

 
예를 들어, 학생들의 성적(국어, 수학, 영어 등)에서 중요한 정보를 쉽게 찾을 수 있습니다.




■   3. 예를 들어보면?

예시: 학생 성적 분석

PC1: 학생들의 전반적인 학업 성취도를 나타냅니다. 
모든 과목에서 높은 점수를 받은 학생들이 높은 PC1 점수를 갖습니다.

PC2: 특정 과목에 대한 성취도를 나타냅니다. 예를 들어, 수학에서 높은 점수를 
받은 학생들이 높은 PC2 점수를 갖습니다.

요약:

PC1: 전체 성적이 높은 학생들.
PC2: 특정 과목에서 두드러지는 학생들.
PCA는 학생들의 성적 데이터에서 중요한 패턴을 찾아내어 학습 성과를 효과적으로 
분석하는 데 도움을 줍니다.

정리하면 :

모든 과목이 3과목이고 국어,영어,수학이 있다고 하고  국어(X축), 수학(Y축), 
영어(Z축) 이라고 하자


그러면 PC1 은 국어,수학,영어를 가장 잘 설명하는 어느 직선이 된다. 

PC2는 PC1과 직교하는 직선으로 자동으로 결정 된다.

PC3는 PC1, PC2와 직교된 상태에서 직교된 또 다른 직선으로 자동으로 결정 된다.

 

 

■ 과목 추가하여 3D 시각화

# 필요한 패키지 설치 및 로드
install.packages("ggplot2")
install.packages("plotly")
install.packages("scatterplot3d")

library(ggplot2)
library(plotly)
library(scatterplot3d)

# 데이터 생성
set.seed(123) # 재현성을 위해 시드 설정
num_students <- 100
data <- data.frame(
  국어 = rnorm(num_students, mean = 70, sd = 10),
  수학 = rnorm(num_students, mean = 65, sd = 12),
  영어 = rnorm(num_students, mean = 75, sd = 8)
)

# 주성분 분석 수행
pca_result <- prcomp(data, scale. = TRUE)

# 주성분 점수 추출
pca_scores <- data.frame(pca_result$x)

# 주성분 방향 벡터
pc1_vector <- pca_result$rotation[,1]

# 데이터의 중심 계산
center <- colMeans(data)

# 3D 시각화
s3d <- scatterplot3d(data$국어, data$수학, data$영어, pch = 19, color = "blue", main = "3D PCA Plot",
                     xlab = "국어", ylab = "수학", zlab = "영어")

# 주성분 벡터 그리기 (데이터 중심을 기준으로 양쪽 방향)
s3d$points3d(center[1] + pc1_vector[1] * c(-10, 10), center[2] + pc1_vector[2] * c(-10, 10), center[3] + pc1_vector[3] * c(-10, 10), type = "l", col = "red", lwd = 3)

# Plotly를 사용한 인터랙티브 시각화
plot_ly(x = ~data$국어, y = ~data$수학, z = ~data$영어, type = 'scatter3d', mode = 'markers',
        marker = list(size = 3, color = 'blue')) %>%
  add_trace(x = center[1] + pc1_vector[1] * c(-10, 10), y = center[2] + pc1_vector[2] * c(-10, 10), z = center[3] + pc1_vector[3] * c(-10, 10),
            type = 'scatter3d', mode = 'lines', line = list(color = 'red', width = 5)) %>%
  layout(scene = list(xaxis = list(title = '국어'),
                      yaxis = list(title = '수학'),
                      zaxis = list(title = '영어'),
                      title = "3D PCA Plot with PC1"))

직선: 세개의 과목을 잘나타내는 직

####################################################################################

 

위의 설명에서 PC1 의 직선 찾는 방법:

 

 

 

 

 

 

step3) 수직 거리(빨간색 선)의 길이 합이 최소가 되는 녹색 직선을 찾는다.

이미지에서 빨간색 선은 각 점에서 녹색 직선(주성분 축)까지의 수직 거리를 나타냅니다.

 

주성분 분석(PCA)의 목적은 이러한 수직 거리(빨간색 선)의 길이 합이 최소가 되는 녹색 직선을 찾는 것입니다.

 

이 녹색 직선은 데이터의 분산이 가장 큰 방향을 나타내며, 데이터를 가장 잘 설명하는 축입니다.

 

이 축을 따라 데이터를 투영하면, 데이터의 주요 패턴을 가장 잘 보존하면서 차원을 줄일 수 있습니다.

 

컬럼들의 갯수로 정리하면 ?

1. (컬럼2개) 체중과 키:

2차원 데이터를 1차원으로 줄이기 위해 첫 번째 주성분(PC1)을 구합니다.
PC1은 체중과 키의 변동성을 가장 잘 설명하는 방향을 나타냅니다.

2. (컬럼3개) 국어, 영어, 수학 성적:

3차원 데이터를 2차원으로 줄이기 위해 첫 번째 주성분(PC1)과 두 번째 주성분(PC2)을 구합니다.
PC1은 전반적인 학업 성취도를 나타내고, PC2는 특정 과목에서의 성취도를 나타냅니다.
이 과정을 통해 데이터의 주요 패턴을 유지하면서 차원을 축소할 수 있습니다.

3. (컬럼4개) 아이리스(iris)

아이리스 데이터셋을 예로 들어, 주성분 분석(PCA)을 통해 4차원 데이터를 2차원으로 축소

 

데이터 설명:

아이리스 데이터셋에는 다음과 같은 4개의 독립변수가 있습니다:

Sepal.Length (꽃받침 길이)
Sepal.Width (꽃받침 너비)
Petal.Length (꽃잎 길이)
Petal.Width (꽃잎 너비)

# 필요한 패키지 설치 및 로드
install.packages("ggplot2")
install.packages("plotly")

library(ggplot2)
library(plotly)

# 아이리스 데이터셋 로드
iris_data <- read.csv("c:\\data\\iris2.csv")

# 주성분 분석 수행
pca_result <- prcomp(iris_data[, 1:4], scale. = TRUE)

# 주성분 점수 추출
pca_scores <- data.frame(pca_result$x)
pca_scores$Species <- iris_data$Species

# 2차원 시각화
p <- ggplot(pca_scores, aes(x = PC1, y = PC2, color = Species)) +
  geom_point(size = 3) +
  labs(title = "PCA 결과", x = "PC1", y = "PC2") +
  theme_minimal()

# plotly를 사용한 인터랙티브 시각화
p_interactive <- ggplotly(p)

# 시각화 출력
p_interactive

 

코드를 보면 pc3 도 있고 pc4 도 있는데 이는 무엇인가?

 

국어, 영어, 수학, 과학 4과목을 예로 들어 주성분 분석(PCA)을 쉽게 설명해볼게요.

주성분 분석을 통해 이 4개의 과목 성적을 분석하면, PC1, PC2, PC3, PC4의 의미를 다음과 같이 이해할 수 있습니다.

 

주성분 분석의 의미PC1 (첫 번째 주성분):

• 설명: 데이터의 가장 큰 변동성을 설명하는 축입니다.
• 쉽게 설명: 모든 과목에서 높은 점수를 받은 학생들은 PC1 값이 높습니다. 반대로 모든 과목에서 낮은 점수를 받은 학생들은 PC1 값이 낮습니다.
• 의미: PC1은 학생들의 전반적인 학업 성취도를 나타냅니다. 즉, 전체 성적이 얼마나 우수한지를 보여줍니다.

PC2 (두 번째 주성분):

• 설명: PC1과 직교하며, 남은 변동성 중 가장 큰 부분을 설명합니다.
• 쉽게 설명: PC1에서 설명하지 못한 부분을 추가로 설명합니다. 예를 들어, 수학과 과학에서 높은 점수를 받은 학생들은 PC2 값이 높을 수 있습니다.
• 의미: PC2는 특정 과목 조합에서의 차이를 나타냅니다. 예를 들어, 수학과 과학에 특화된 성취도를 보여줍니다.

PC3 (세 번째 주성분):

• 설명: PC1과 PC2에 직교하며, 남은 변동성 중 세 번째로 큰 부분을 설명합니다.
• 쉽게 설명: PC1과 PC2에서 설명하지 못한 더 세부적인 변동성을 설명합니다. 예를 들어, 국어와 영어에서 특정한 패턴을 보이는 학생들이 있을 수 있습니다.
• 의미: PC3는 또 다른 과목 조합에서의 성취도를 나타냅니다. 예를 들어, 국어와 영어에 특화된 성취도를 보여줍니다.

PC4 (네 번째 주성분):

• 설명: PC1, PC2, PC3에 직교하며, 남은 변동성 중 네 번째로 큰 부분을 설명합니다.
• 쉽게 설명: 남아 있는 가장 적은 변동성을 설명합니다. 예를 들어, 과학에서만 두드러진 성취도를 보이는 학생들이 있을 수 있습니다.
• 의미: PC4는 가장 적은 변동성을 설명하며, 매우 세부적인 패턴을 나타냅니다.

요약

• PC1: 전체 과목에서 전반적으로 높은 성적을 가진 학생들의 성취도를 나타냅니다.
• PC2: 특정 과목 조합 (예: 수학과 과학)에서의 성취도를 나타냅니다.
• PC3: 다른 특정 과목 조합 (예: 국어와 영어)에서의 성취도를 나타냅니다.
• PC4: 나머지 가장 적은 변동성을 설명하며, 특정 과목에서의 세부적인 패턴을 나타냅니다.

주성분 분석을 통해 학생들의 성적 데이터를 분석하면, 각 주성분이 데이터의 주요 패턴을 어떻게 설명하는지 알 수 있습니다. 이를 통해 복잡한 데이터에서 중요한 정보를 추출하고 이해하기 쉽게 만들 수 있습니다.

 

 

문제1. 2장에서 배웠던 유방암 데이터를 주성분 분석해서 시각화 하시오. 

# 필요한 패키지 설치 및 로드
install.packages("ggplot2")
install.packages("plotly")

library(ggplot2)
library(plotly)

# 유방암 데이터셋 로드
bc_data <- read.csv("c:\\data\\wisc_bc_data.csv")

# 진단 결과를 factor로 변환
bc_data$diagnosis <- as.factor(bc_data$diagnosis)

# 주성분 분석 수행 (id와 diagnosis 컬럼을 제외한 나머지 컬럼 사용)
pca_result <- prcomp(bc_data[, 3:32], scale. = TRUE)

# 주성분 점수 추출
pca_scores <- data.frame(pca_result$x)
pca_scores$diagnosis <- bc_data$diagnosis

# 2차원 시각화
p <- ggplot(pca_scores, aes(x = PC1, y = PC2, color = diagnosis)) +
  geom_point(size = 3) +
  labs(title = "PCA 결과", x = "PC1", y = "PC2") +
  theme_minimal()

# plotly를 사용한 인터랙티브 시각화
p_interactive <- ggplotly(p)

# 시각화 출력
p_interactive​