본문 바로가기

MATLAB/ㄴ 기타

3. 단정밀도 (Single Precision) 계산

이 예제에서는 데이터형이 'single'인 데이터에 대해 산술 연산과 선형대수 연산을 수행하는 방법을 보여줍니다.

 


 

1) 배정밀도(Double Precision) 데이터 생성

먼저 데이터를 만들어 보겠습니다. 데이터형은 기본적으로 배정밀도 즉, 'double'입니다.

 


 

2) 단정밀도로 변환

single 함수를 사용하여 데이터를 단정밀도로 변환할 수 있습니다.

 


 

3) 단정밀도 0으로 구성된 행렬과 단정밀도 1로 구성된 행렬 생성

각각 해당하는 함수를 사용하여 단정밀도 0과 단정밀도 1로 구성된 행렬을 만들 수도 있습니다.

 

작업 공간의 변수를 살펴보겠습니다.

 

일부 변수는 single 유형이며 변수 A (Ad의 단정밀도 버전)는 절반의 메모리 바이트 수로 저장된 것을 알 수 있습니다.

배정밀도는 데이터 하나를 저장하는 데 8Byte(64Bit)를 필요로 하는 반면,

단정밀도는 4Byte(32Bit)를 필요로 합니다.

 


 

4) 산술 연산과 선형 대수 연산

단정밀도 데이터에 대해 표준 산술 연산과 선형 대수 연산을 수행할 수 있습니다.

 

 

이 연산의 결과인 B는 단정밀도입니다.

 


 

5) 단정밀도 또는 배정밀도에 대해 작동하는 프로그램

이제 피보나치 수열(Fibonacci Sequence)에서 충분한 항을 계산하여 비율이 single/double형인

올바른 머신 엡실론(eps)보다 작게 유지되도록 하는 함수를 살펴보겠습니다.

 

여기서는 여러 변수 fcurrent, fnext 및 goldenMean을 입력 데이터에 종속된 값으로 초기화했으며

허용오차 tol도 해당 데이터형에 종속적입니다.

단정밀도에서는 상응하는 배정밀도 계산보다 더 적은 항을 계산해야 합니다.

 


 

https://kr.mathworks.com/help/matlab/matlab_prog/single-precision-math.html

 

단정밀도(Single Precision) 계산 - MATLAB & Simulink Example - MathWorks 한국

이 예제의 수정된 버전이 있습니다. 사용자가 편집한 내용을 반영하여 이 예제를 여시겠습니까?

kr.mathworks.com