Sigmoid

1 개요

이미지 채널 값의 Sigmoid 함숫값 또는 미분값을 반환하는 알고리즘입니다.

Sigmoid
Graph
Fig. Plot of Sigmoid function.

2 알고리즘 상세 설명

일반화된 모드를 활성화 하는 경우, Sigmoid 함수에 적용 될 B M K 파라미터들을 설정할 수 있습니다. 이 파라미터들의 기본 값은 각각 1.0, 0.0, 1.0 입니다.

Forward 모드

Source 이미지 픽셀 각 채널 값의 Sigmoid 함숫값을 계산하여 출력합니다.
아래의 Figure 는 [-1, 1] 범위의 float 이미지에 B=10.0B = 10.0, M=0.0M = 0.0, K=1.0K = 1.0 을 적용한 예시를 보여줍니다.

Source Image Destination Image
Source Image Destination Image
Fig. Source and destination images. (forward mode)

yn=SigmoidB,M,K(xn)y_{n} = \text{Sigmoid}_{B,M,K}(x_{n})

SigmoidB,M,K(x)=K1+eB(xM)\text{Sigmoid}_{B,M,K}(x) = \frac{K}{1 + e^{-B(x-M)}}

Backward 모드

Source 이미지 픽셀 각 채널 값의 Sigmoid 미분값을 계산하여 출력합니다.
아래의 Figure 는 [-1, 1] 범위의 float 이미지에 B=10.0B = 10.0, M=0.0M = 0.0, K=1.0K = 1.0 를 적용한 예시를 보여줍니다.

Source Image Destination Image
Source Image Destination Image
Fig. Source and destination images. (backward mode)

yn=SigmoidB,M,K(xn)y_{n} = \text{Sigmoid}'_{B,M,K}(x_{n})

SigmoidB,M,K(x)=KBeB(xM)(1+eB(xM))2\text{Sigmoid}'_{B,M,K}(x) = \frac{KBe^{-B(x-M)}}{(1 + e^{-B(x-M)})^2}

3 파라미터 설정 및 사용 방법

Operation Mode 설정

일반화 모드 활성화 및 파라미터 설정

4 예제 코드

COperationSigmoid sigmoid;

CFLImage fliSourceImage;
CFLImage fliDestinationImage;

sigmoid.SetSourceImage(fliSourceImage);
sigmoid.SetDestinationImage(fliDestinationImage);
sigmoid.SetOperationMode(COperationSigmoid::EOperationMode_Forward);
sigmoid.EnableGeneralizedMode(true);
sigmoid.SetB(10.0);
sigmoid.SetM(0.0);
sigmoid.SetK(1.0);

sigmoid.Execute();
COperationSigmoid sigmoid = new COperationSigmoid();

CFLImage fliSourceImage = new CFLImage();
CFLImage fliDestinationImage = new CFLImage();

sigmoid.SetSourceImage(ref fliSourceImage);
sigmoid.SetDestinationImage(ref fliDestinationImage);
sigmoid.SetOperationMode(COperationSigmoid.EOperationMode.Forward);
sigmoid.EnableGeneralizedMode(true);
sigmoid.SetB(10.0);
sigmoid.SetM(0.0);
sigmoid.SetK(1.0);

sigmoid.Execute();

5 기타 사항

Supported Feature

Supported Format

Overflow Method

Overflow 가 발생하는 경우 Clamping 처리 됩니다.

6 관련 알고리즘

ReLU PReLU ELU Softplus Mish Swish Soft Shrinkage Hard Shrinkage