本公開涉及回歸分析方法、回歸分析系統(tǒng)以及回歸分析程序。
背景技術(shù)：
1、以往，在通過最小二乘法推定回歸模型的參數(shù)時，存在以下問題：例如，當(dāng)數(shù)據(jù)的樣本數(shù)少時，不能求出適當(dāng)?shù)淖钚《送贫?。因此，提出了賦予被稱為l1范數(shù)的約束條件的方法（例如，非專利文獻(xiàn)1）。根據(jù)作為將l1范數(shù)設(shè)為約束條件的參數(shù)推定方法的lasso（least?absolute?shrinkage?and?selection?operator：最小絕對收縮和選擇算法），一并進(jìn)行適用于對目標(biāo)變量進(jìn)行說明的說明變量的選擇和系數(shù)的確定。
2、此外，還提出了一種回歸分析裝置，其具備：數(shù)據(jù)獲取部，從存儲裝置讀出訓(xùn)練數(shù)據(jù)和約束條件，該存儲裝置儲存用作回歸模型的目標(biāo)變量和說明變量的訓(xùn)練數(shù)據(jù)、和預(yù)先定義為了使目標(biāo)變量向正或負(fù)的方向變動而應(yīng)使說明變量向正和負(fù)中的哪一方變動的約束條件；和系數(shù)更新部，以使包括正則化項的成本函數(shù)最小化（符號約束正則化）的方式，使用訓(xùn)練數(shù)據(jù)，反復(fù)更新回歸模型中的說明變量的系數(shù)，該正則化項在違反約束條件的情況下增大成本（例如，專利文獻(xiàn)1）。
3、現(xiàn)有技術(shù)文獻(xiàn)
4、專利文獻(xiàn)
5、專利文獻(xiàn)1：國際公開第2021/157670號
6、非專利文獻(xiàn)
7、非專利文獻(xiàn)1：robert?tibshirani，“regression?shrinkage?and?selection?viathe?lasso”，journal?of?the?royal?statistical?society.series?b（methodological）vol.58，no.1（1996），pp.267-288
技術(shù)實現(xiàn)思路
1、發(fā)明所要解決的問題
2、以往，提出了如下回歸分析裝置：為了使目標(biāo)變量向正或負(fù)方向變動而提前確定預(yù)先定義應(yīng)使說明變量向正和負(fù)中的哪一方變動的約束條件，由此即使在訓(xùn)練數(shù)據(jù)比較少的情況下也能高精度地進(jìn)行機(jī)器學(xué)習(xí)。然而，為了根據(jù)進(jìn)行回歸分析的對象來準(zhǔn)備適當(dāng)?shù)募s束條件要花費工夫。因此，本技術(shù)的目的在于提供用于構(gòu)建在說明變量的變動與目標(biāo)變量的變動上具有對應(yīng)關(guān)系的回歸模型的更通用的技術(shù)。
3、用于解決問題的方案
4、（方案1）
5、回歸分析方法由計算機(jī)進(jìn)行以下動作：從儲存用作回歸模型的目標(biāo)變量和說明變量的訓(xùn)練數(shù)據(jù)的存儲裝置中讀出訓(xùn)練數(shù)據(jù)；以及以使包括正則化項的成本函數(shù)最小化的方式，使用訓(xùn)練數(shù)據(jù)來進(jìn)行基于回歸模型的機(jī)器學(xué)習(xí)。正則化項包括：第一項，在說明變量的系數(shù)為正的區(qū)間中與系數(shù)為負(fù)的區(qū)間相比增大成本；和第二項，在系數(shù)為負(fù)的區(qū)間中與系數(shù)為正的區(qū)間相比增大成本。
6、（方案2）
7、在上述方案1中，也可以設(shè)為，第一項和第二項包括用于使第一項和第二項中的任一項成為零或近似零的參數(shù)，在機(jī)器學(xué)習(xí)中，反復(fù)更新回歸模型中的回歸系數(shù)和參數(shù)。
8、（方案3）
9、在上述方案2中，也可以設(shè)為，參數(shù)是二值變量，并且該參數(shù)在取一個值的情況下構(gòu)成在第一項中成為零的因子，在取另一個值的情況下構(gòu)成在第二項中成為零的因子。
10、（方案4）
11、在上述方案3中，也可以設(shè)為，二值變量設(shè)為近似生長曲線的值，回歸系數(shù)和參數(shù)以使成本函數(shù)最小化的方式被計算。
12、（方案5）
13、在上述方案3或4中，也可以設(shè)為，二值變量設(shè)為基于使用回歸系數(shù)表示的規(guī)定值與隨機(jī)變量的大小關(guān)系而確定的值，回歸系數(shù)和參數(shù)以使成本函數(shù)最小化的方式被計算。
14、應(yīng)用回歸分析方法的對象也可以是制造業(yè)或非制造業(yè)中的設(shè)備。說明變量也可以是生產(chǎn)設(shè)備所輸出的感測數(shù)據(jù)。此外，目標(biāo)變量也可以是設(shè)備的運轉(zhuǎn)條件、或者規(guī)定的特性值或異常度。需要說明的是，用于解決問題的方案中記載的內(nèi)容可以在不脫離本公開的問題、技術(shù)思想的范圍盡可能地進(jìn)行組合。此外，上述方案1至方案5可以作為包括計算機(jī)等裝置或多個裝置的系統(tǒng)、計算機(jī)或系統(tǒng)所執(zhí)行的方法、或者用于使計算機(jī)或系統(tǒng)執(zhí)行的程序而提供。需要說明的是，也可以設(shè)為提供保持程序的記錄介質(zhì)。
15、發(fā)明效果
16、根據(jù)公開的技術(shù)，能提供用于構(gòu)建在說明變量的變動與目標(biāo)變量的變動上具有對應(yīng)關(guān)系的回歸模型的更通用的技術(shù)。
1.一種回歸分析方法，所述回歸分析方法由計算機(jī)進(jìn)行以下動作：
2.根據(jù)權(quán)利要求1所述的回歸分析方法，其中，
3.根據(jù)權(quán)利要求2所述的回歸分析方法，其中，
4.根據(jù)權(quán)利要求3所述的回歸分析方法，其中，
5.根據(jù)權(quán)利要求3或4所述的回歸分析方法，其中，
6.一種回歸分析系統(tǒng)，所述回歸分析系統(tǒng)包括執(zhí)行如權(quán)利要求1至5中任一項所述的回歸分析方法的一個以上的計算機(jī)。
7.一種回歸分析程序，所述回歸分析程序用于使一個以上的計算機(jī)執(zhí)行如權(quán)利要求1至5中任一項所述的回歸分析方法。