JP2018055422A - 情報処理システム、情報処理装置、情報処理方法、及びプログラム - Google Patents

Abstract

【課題】汎用性と多様性を両立させることができる情報処理システム、情報処理装置、情報処理方法、及びプログラムを提供することである。
【解決手段】実施形態の情報処理システムは、対話部と、記憶部と、システム／ユーザ変換部と、を持つ。対話部は、発言を生成してユーザとの対話を行う。記憶部は、発言の変換規則を示す変換情報を記憶する。システム／ユーザ変換部は、前記記憶部に記憶された変換情報を用いて、前記対話部が生成した発言をユーザに応じた態様に変換する。
【選択図】図２

Description

本発明の実施形態は、情報処理システム、情報処理装置、情報処理方法、及びプログラムに関する。

情報処理技術を用いて、ユーザからの問いかけに対する解を探索し、ユーザに提示するシステムが存在する。しかしながら、従来の技術では、問いかけに対する応答が画一的であったり、ユーザに依存してしまったりするため、汎用性と多様性を両立させることができない場合がある。

特表２００８−５１２７８９号公報

本発明が解決しようとする課題は、汎用性と多様性を両立させることができる情報処理システム、情報処理装置、情報処理方法、及びプログラムを提供することである。

実施形態の情報処理システムは、対話部と、記憶部と、システム／ユーザ変換部と、を持つ。対話部は、発言を生成してユーザとの対話を行う。記憶部は、発言の変換規則を示す変換情報を記憶する。システム／ユーザ変換部は、前記記憶部に記憶された変換情報を用いて、前記対話部が生成した発言をユーザに応じた態様に変換する。

第１の実施形態に係る情報処理システムの概要を示す図。 同実施形態に係るフィルタの概要を示す図。 同実施形態に係る情報処理システムの構成を示すブロック図。 同実施形態に係る端末装置の構成を示すブロック図。 同実施形態に係る応答制御装置の構成を示すブロック図。 同実施形態に係るユーザ情報のデータ構成を示す図。 同実施形態に係る履歴情報のデータ構成を示す図。 同実施形態に係る情報処理システムによる処理の流れを示すフローチャート。 同実施形態に係る情報処理システムによる応答の提示例を示す第１図。 同実施形態に係る情報処理システムによる応答の提示例を示す第２図。 第２の実施形態に係るフィルタの概要を示す図。 同実施形態に係る応答制御装置の構成を示すブロック図。 同実施形態に係る情報処理システムによる処理の流れを示すフローチャート。 第３の実施形態に係るフィルタの概要を示す図。 同実施形態に係る応答制御装置の構成を示すブロック図。 同実施形態に係る情報処理システムによる処理の流れを示すフローチャート。 第４の実施形態に係る端末装置の構成を示すブロック図。 同実施形態に係る応答制御装置の構成を示すブロック図。

以下、実施形態の情報処理システム、情報処理装置、情報処理方法、及びプログラムを、図面を参照して説明する。

（第１の実施形態）
第１の実施形態に係る情報処理システム１の概要について説明する。
図１は、情報処理システム１の概要を示す図である。
図１に示すように、情報処理システム１は、ユーザの発言に応じて、意見や選択肢等の発言を返すシステムである。以下では、ユーザの発言に対して、情報処理システム１が返す発言を「応答」と称する。また、以下では、ユーザの発言と情報処理システム１が生成する発言とのやり取りを、「対話」と称する。なお、情報処理システム１に入力されるユーザからの発言や、情報処理システム１から出力される応答は、音声に限らずテキスト等でもよい。

情報処理システム１には、応答を生成するための構成が設けられている。以下では、独立して応答を生成可能な構成の単位を「エージェント」と称する。情報処理システム１は、複数のエージェントを備える。各エージェントは、異なる個性を有する。以下では、「個性」とは、応答の傾向、応答の内容、応答の表現方法等に影響する要素をいう。例えば、各エージェントの個性は、応答を生成するために用いられる情報（例えば、機械学習の教師データ、後述する履歴情報、ユーザ情報等）の内容、応答の生成における論理展開、応答の生成に用いられるアルゴリズム等の要素により定められる。エージェントの個性付けは、任意の方法で行われてよい。このように、情報処理システム１は、個性が異なる複数のエージェントにより生成された応答を提示するため、ユーザに対して多様な考え方や選択肢を提案し、ユーザの決断を支援することができる。

本実施形態では、各エージェントによる応答は、フィルタによる変換を経て、ユーザに提示される。ここで、図２を参照して、対話の流れとフィルタによる変換との概要について説明する。
図２は、本実施形態に係るフィルタの概要を示す図である。
本実施形態に係る対話では、まず、ユーザが質問等の発言を行う（ｐ１）。次に、エージェントａ１、ａ２、…は、それぞれ、ユーザの発言に対する応答を生成する（ｐ２−１、ｐ２−２、…）。エージェントが生成する応答は、ユーザの発言内容に依存し、ユーザには依存しない。

次に、システム／ユーザ変換フィルタｌｆは、エージェントａ１、ａ２、…の応答を、ユーザに応じて変換し、ユーザに提示する（ｐ３−１、ｐ３−２、…）。本実施形態では、システム／ユーザ変換フィルタｌｆは、ユーザごとに設けられている。次に、ユーザは、エージェントａ１、ａ２、…の応答を評価する。この評価は、システム／ユーザ変換フィルタｌｆによる変換処理と、エージェントａ１、ａ２、…による応答の生成処理とに反映される（ｐ４、ｐ５）。このように、情報処理システム１は、エージェントａ１、ａ２、…の応答をそのまま提示するのではなく、変換してから提示する。従って、ユーザに応じた望ましい応答を提示することができる。

次に、情報処理システム１の構成について説明する。
図３は、情報処理システム１の構成を示すブロック図である。
情報処理システム１は、複数の端末装置１０−１、１０−２、…と、応答制御装置３０とを備える。以下では、特に区別しない限り、複数の端末装置１０−１、１０−２、…を、端末装置１０と総称する。端末装置１０と、応答制御装置３０とは、ネットワークＮＷを介して通信可能に接続されている。

端末装置１０は、コンピュータシステムを備える電子機器である。具体的には、端末装置１０は、パーソナルコンピュータ、携帯電話、タブレット、スマートフォン、ＰＨＳ（Ｐｅｒｓｏｎａｌ Ｈａｎｄｙ−ｐｈｏｎｅ Ｓｙｓｔｅｍ）端末装置、ゲーム機等である。端末装置１０は、ユーザからの入力を受け付けたり、ユーザに対して情報の提示を行ったりする。

応答制御装置３０は、コンピュータシステムを備える電子機器である。具体的には、応答制御装置３０は、サーバ装置等である。応答制御装置３０は、エージェントとフィルタ（例えば、システム／ユーザ変換フィルタｌｆ）とを実装する。本実施形態では、一例として、エージェントとフィルタとが人工知能により実現される場合について説明する。人工知能とは、学習、推論、判断等の人間の知的な機能を模倣するコンピュータシステムである。人工知能を実現するためのアルゴリズムは、任意であってよい。具体的には、人工知能は、ニューラルネットワーク、事例ベース推論等により実現されてよい。

ここで、情報処理システム１による処理の流れの概要について説明する。
端末装置１０は、ユーザから発言の入力を受け付ける。端末装置１０は、ユーザの発言を示す情報を、応答制御装置３０に送信する。応答制御装置３０は、ユーザの発言を示す情報を、端末装置１０から受信する。応答制御装置３０は、ユーザの発言を示す情報を参照し、ユーザの発言に応じた応答を示す情報を生成する。応答制御装置３０は、応答を示す情報を、フィルタにより変換し、変換結果を示す情報を生成する。応答制御装置３０は、変換結果を示す情報を端末装置１０に送信する。端末装置１０は、変換結果を示す情報を、応答制御装置３０から受信する。端末装置１０は、変換結果を示す情報を参照し、変換された応答の内容を、表示や音声により提示する。

次に、端末装置１０の構成について説明する。
図４は、端末装置１０の構成を示すブロック図である。
端末装置１０は、通信部１１と、入力部１２と、表示部１３と、音声出力部１４と、記憶部１５と、制御部１６と、を備える。
通信部１１は、応答制御装置３０等のネットワークＮＷに接続する他の装置と、各種情報を送受信する。通信部１１は、通信用ＩＣ（Ｉｎｔｅｇｒａｔｅｄ Ｃｉｒｃｕｉｔ）等を含む。

入力部１２は、各種情報の入力を受け付ける。例えば、入力部１２は、ユーザによる発言の入力、対話のシーンの選択を受け付ける。入力部１２は、文字入力、音声入力、ポインティング等の任意の方法により、ユーザからの入力を受け付けてよい。入力部１２は、キーボード、マウス、タッチセンサ、マイク等を含む。

表示部１３は、各種情報を表示する。例えば、表示部１３は、ユーザの発言の内容、エージェントの応答の内容等を表示する。表示部１３は、液晶ディスプレイパネル、有機ＥＬ（Ｅｌｅｃｔｒｏ−Ｌｕｍｉｎｅｓｃｅｎｃｅ）ディスプレイパネル等を含む。
音声出力部１４は、各種音源を再生する。例えば、音声出力部１４は、応答の内容等を音声出力する。音声出力部１４は、スピーカ、ウーファー等を含む。

記憶部１５は、各種情報を記憶する。例えば、記憶部１５は、端末装置１０が備えるＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）により実行可能なプログラムや、当該プログラムが参照する情報等を記憶する。記憶部１５は、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）等を含む。

制御部１６は、端末装置１０が備える各種構成を制御する。例えば、制御部１６は、端末装置１０が備えるＣＰＵが、記憶部１５に記憶されたプログラムを実行することにより実現される。制御部１６は、対話処理部１６１を備える。
対話処理部１６１は、対話のための入出力処理を制御する。例えば、対話処理部１６１は、対話のためのユーザインタフェースを提供するための処理を実行する。また、例えば、対話処理部１６１は、応答制御装置３０との間におけるユーザの発言を示す情報や応答の変換結果を示す情報の送受信を制御する。

次に、応答制御装置３０の構成について説明する。
図５は、応答制御装置３０の構成を示すブロック図である。
応答制御装置３０は、通信部３１と、記憶部３２と、制御部３３と、を備える。
通信部３１は、端末装置１０等のネットワークＮＷに接続する他の装置と、各種情報を送受信する。通信部３１は、通信用ＩＣ等を含む。

記憶部３２は、各種情報を記憶する。例えば、記憶部３２は、応答制御装置３０が備えるＣＰＵにより実行可能なプログラムや、当該プログラムが参照する情報等を記憶する。記憶部３２は、ＲＯＭ、ＲＡＭ等を含む。記憶部３２は、システム／ユーザ変換情報記憶部３２１と、１以上のエージェント構成情報記憶部３２２−１、３２２−２、…と、ユーザ情報記憶部３２３と、履歴情報記憶部３２４と、を備える。以下では、特に区別しない限り、エージェント構成情報記憶部３２２−１、３２２−２、…を、エージェント構成情報記憶部３２２と総称する。

システム／ユーザ変換情報記憶部３２１は、システム／ユーザ変換情報を記憶する。システム／ユーザ変換情報とは、システム／ユーザ変換フィルタｌｆによる変換規則を示す情報である。つまり、システム／ユーザ変換情報とは、発言の変換規則を示す変換情報の一例である。本実施形態では、一例として、システム／ユーザ変換情報が、ユーザごとに設定され、ユーザごとに記憶される場合について説明する。例えば、システム／ユーザ変換フィルタｌｆがニューラルネットワークにより実現される場合、システム／ユーザ変換情報は、機械学習の結果、例えば機械学習により変動する活性化関数のパラメータ等の情報を含む。なお、システム／ユーザ変換フィルタｌｆが人工知能以外で実現される場合、システム／ユーザ変換フィルタｌｆは、例えば、応答と、応答に対する変換結果と、を一義的に対応付けた情報等であってよい。この対応付けは、テーブル等により行われてもよいし、関数等により行われてもよい。

エージェント構成情報記憶部３２２は、エージェント構成情報を記憶する。エージェント構成情報とは、後述するエージェント実行部３５の構成を示す情報である。例えば、エージェント実行部３５がニューラルネットワークにより実現される場合、エージェント構成情報は、機械学習の結果、例えば機械学習により変動する活性化関数のパラメータ等の情報を含む。エージェント構成情報は、対話における応答の生成規則を示す情報の一例である。なお、エージェント実行部３５が人工知能以外で実現される場合、エージェント構成情報は、例えば、ユーザの発言と、発言に対する応答と、を一義的に対応付けた情報等であってよい。

ユーザ情報とは、ユーザの属性を示す情報である。ここで、ユーザ情報のデータ構成の例について説明する。
図６は、ユーザ情報のデータ構成を示す図である。
ユーザ情報は、ユーザ識別情報（図６における「ユーザ」）と、年齢情報（図６における「年齢」）と、性別情報（図６における「性別」）と、嗜好情報（図６における「嗜好」）と、ユーザ性格情報（図６における「性格」）と、を互いに対応付けた情報である。

ユーザ識別情報とは、ユーザを一意に識別するための情報である。年齢情報とは、ユーザの年齢を示す情報である。性別情報とは、ユーザの性別を示す情報である。嗜好情報とは、ユーザの嗜好を示す情報である。ユーザ性格情報とは、ユーザの性格を示す情報である。

このように、ユーザ情報では、ユーザと、その属性とが対応付けられている。換言すると、ユーザ情報は、ユーザの個性を示す。従って、端末装置１０と応答制御装置３０とは、ユーザ情報を参照することにより、ユーザの個性を確認することができる。

図５に戻り、応答制御装置３０の構成について、説明を続ける。
履歴情報記憶部３２４は、履歴情報を記憶する。履歴情報とは、ユーザと情報処理システム１との間における対話の履歴を示す情報である。履歴情報は、ユーザごとに管理されてよい。ここで、履歴情報のデータ構成の例について説明する。
図７は、履歴情報のデータ構成を示す図である。
履歴情報は、トピック識別情報（図７における「トピック」）と、肯定キーワード情報（図７における「肯定キーワード」）と、否定キーワード情報（図７における「否定キーワード」）と、を互いに対応付けた情報である。

トピック識別情報とは、対話を一意に識別するための情報である。肯定キーワード情報とは、対話において、ユーザが肯定的な反応を示したキーワードを示す情報である。否定キーワード情報とは、対話において、ユーザが否定的な反応を示したキーワードを示す情報である。履歴情報では、１つのシーン識別情報に対して、１以上の肯定キーワード情報、否定キーワード情報が対応付けられてよい。

このように、履歴情報は、対話の履歴を示す。つまり、履歴情報を参照することにより、各ユーザにとって望ましい応答の傾向を、履歴情報から把握することができる。従って、端末装置１０と応答制御装置３０とは、履歴情報を参照することにより、ユーザが受け入れにくい提案を行うことを防いだり、ユーザが受け入れやすい提案を行ったりすることができる。

図５に戻り、応答制御装置３０の構成について、説明を続ける。
制御部３３は、応答制御装置３０が備える各種構成を制御する。例えば、制御部３３は、応答制御装置３０が備えるＣＰＵが、記憶部３２に記憶されたプログラムを実行することにより実現される。制御部３３は、対話処理部３３１と、システム／ユーザフィルタ部３４と、１以上のエージェント実行部３５−１、３５−２、…とを備える。以下では、特に区別しない限り、エージェント実行部３５−１、３５−２、…を、エージェント実行部３５と総称する。

対話処理部３３１は、対話のための入出力処理を制御する。対話処理部３３１は、端末装置１０の対話処理部１６１に対応する応答制御装置３０側の構成である。例えば、対話処理部３３１は、端末装置１０との間において、ユーザの発言を示す情報や応答の変換結果を示す情報の送受信を制御する。

また、対話処理部３３１は、履歴情報を管理する。例えば、対話処理部３３１は、対話においてユーザの発言に肯定的な文言が含まれている場合、その文言に対応するユーザの発言のキーワード、又は、応答のキーワードを特定し、肯定キーワード情報に登録する。また、例えば、対話処理部３３１は、ユーザの発言に否定的な文言が含まれている場合、その文言に対応するユーザの発言のキーワード、又は、応答のキーワードを特定し、否定キーワード情報に登録する。このように、対話処理部３３１は、履歴情報のデータ構成に合せて、履歴情報の追記、編集、削除等を行ってよい。

システム／ユーザフィルタ部３４は、システム／ユーザ変換フィルタｌｆとして機能する。本実施形態では、一例として、システム／ユーザフィルタ部３４は、ユーザごとのシステム／ユーザ変換フィルタｌｆとして機能する。システム／ユーザフィルタ部３４は、ユーザ情報や履歴情報等のユーザに係る情報を参照して処理を行ってよい。システム／ユーザフィルタ部３４は、システム／ユーザ変換部３４１と、システム／ユーザ変換学習部３４２と、を備える。

システム／ユーザ変換部３４１は、エージェント実行部３５が生成した応答を、システム／ユーザ変換情報に基づいて変換する。応答の変換は、応答内容の隠蔽、置換、派生、表現方法の変更等により行われてよい。応答内容の隠蔽とは、応答内容の一部又は全てを提示しないことである。置換とは、応答内容を他の文言に置換することである。派生とは、応答内容から導き出される他の発言を生成することである。表現方法の変更とは、応答の実質的な内容を変更せずに、応答の文体やニュアンス等を変更することである。例えば、表現方法の変更には、エージェントの口調の変更が含まれる。

システム／ユーザ変換学習部３４２は、システム／ユーザ変換フィルタｌｆの機能を実現するための機械学習を行う。システム／ユーザ変換学習部３４２は、ユーザの利用開始前に行なわれる機械学習と、対話におけるユーザの評価による機械学習との２種類の機械学習を実行可能である。システム／ユーザ変換学習部３４２による機械学習の結果は、システム／ユーザ変換情報に反映される。なお、以下では、「評価」とは、ユーザにとっての応答の精度や的確さを表す指標であるとして説明する。システム／ユーザ変換学習部３４２による機械学習に用いられる教師データは、応答（例えば、図２に示すｐ２−１、ｐ２−２等）と、変換結果（例えば、図２に示すｐ３−１、ｐ３−２等）と、評価と、を対応付けたデータである。また、この教師データには、ユーザ情報や履歴情報が対応付けられていてもよい。評価は、真偽の２値であってもよいし、３段階以上の値であってもよい。このような教師データを用いて機械学習を重ねることにより、システム／ユーザ変換部３４１は、応答をユーザに応じた態様に変換することができる。

また、システム／ユーザ変換学習部３４２は、対話におけるユーザの評価による機械学習を、ユーザごと区別して行ってよい。つまり、システム／ユーザ変換情報は、ユーザごとに記憶されてよい。以下では、一例として、ユーザごとに機械学習を行う場合について説明する。この場合は、あるユーザの発言に対する応答の変換結果の評価を、そのユーザのシステム／ユーザ変換情報のみに反映させる。このような機械学習を行うことにより、システム／ユーザ変換部３４１は、エージェントの応答を、ユーザごとに望ましい態様に変換することができるようになる。

エージェント実行部３５−１、３５−２、…は、それぞれ、異なるエージェント（例えば、図２に示すエージェントａ１、ａ２、…）として機能する。エージェント実行部３５−１、３５−２、…は、エージェント構成情報記憶部３２２−１、３２２−２、…に記憶されるエージェント構成情報に基づいて実現される。エージェント実行部３５−１、３５−２、…は、対話部３５１−１、３５１−２、…と、エージェント学習部３５２−１、３５２−２、…とを備える。以下では、対話部３５１−１、３５１−２、…を、対話部３５１と総称する。また、以下では、エージェント学習部３５２−１、３５２−２、…を、エージェント学習部３５２と総称する。本実施形態では、一例として、エージェント実行部３５は、ユーザ情報や履歴情報等のユーザに係る情報の参照が制限されている。

対話部３５１は、ユーザの発言に対するエージェントの応答を生成する。
エージェント学習部３５２は、エージェント実行部３５の機能を実現するための機械学習を行う。エージェント学習部３５２は、ユーザの利用開始前に行なわれる機械学習と、対話におけるユーザの評価による機械学習との２種類の機械学習を実行可能である。エージェント学習部３５２による機械学習の結果は、エージェント構成情報に反映される。

エージェント学習部３５２による機械学習に用いられる教師データは、ユーザの発言（例えば、図２に示すｐ１等）と、応答（例えば、図２に示すｐ２−１、ｐ２−２等）と、評価と、を対応付けたデータである。また、この教師データは、ユーザの発言（例えば、図２に示すｐ１等）と、応答の変換結果（例えば、図２に示すｐ３−１、ｐ３−２等）と、評価と、を対応付けたデータであってもよい。エージェント学習部３５２は、そのエージェント学習部３５２を含むエージェント実行部３５ではない、別のエージェント実行部３５が行った応答を教師データとして用いてもよい。このような教師データを用いて学習を重ねることにより、対話部３５１は、ユーザの発言に応じた応答を生成可能になる。

なお、この教師データには、ユーザ情報や履歴情報が対応付けられていてもよいが、本実施形態では、一例として、エージェント学習部３５２は、ユーザ情報や履歴情報を対応付けない教師データを用いて機械学習を行う場合について説明する。これにより、対話部３５１は、ユーザではなく、発言内容に純粋に依存した応じた応答を生成可能になる。つまり、エージェント実行部３５を各ユーザ間で共通の汎用的な構成とすることができる。

次に、情報処理システム１の動作について説明する。
図８は、情報処理システム１による処理の流れを示すフローチャートである。
（ステップＳ１００）端末装置１０は、ユーザの発言を受け付ける。その後、情報処理システム１は、ステップＳ１０２に処理を進める。
（ステップＳ１０２）応答制御装置３０は、ステップＳ１００で受け付けたユーザの発言に対する各エージェントの応答を、エージェント構成情報に基づいて生成する。その後、情報処理システム１は、ステップＳ１０４に処理を進める。

（ステップＳ１０４）応答制御装置３０は、ステップＳ１０２で生成した応答を、ユーザ情報、履歴情報、システム／ユーザ変換情報等に基づいて変換する。端末装置１０は、ユーザの発言と、当該発言に応じて生成された応答の変換結果とを、ユーザに提示する。その後、情報処理システム１は、ステップＳ１０６に処理を進める。

（ステップＳ１０６）応答制御装置３０は、システム／ユーザ変換フィルタｌｆ及びエージェントの機械学習を、対話結果に基づいて行う。対話結果とは、提示された変換結果に対するユーザの反応や対話の総括であり、システム／ユーザ変換フィルタｌｆ及びエージェントに対する評価を示す。対話結果は、対話全体に対するものであってもよいし、個々の応答に対するものであってもよい。その後、情報処理システム１は、図８に示す処理を終了する。

なお、ステップＳ１０６における機械学習のためのユーザの評価（対話結果）は、ユーザの発言から特定してもよいし、対話後にユーザに入力させてもよい。評価は、肯定と否定との２値で入力されてもよいし、３段階以上の値で入力されてもよいし、自然文から値に変換されてもよい。また、評価は、対話の特徴に基づいて行われてもよい。例えば、対話におけるユーザの発言の数、応答の数、対話の長さ等は、対話が活発であったことを示す。そこで、対話におけるユーザの発言の数、応答の数、対話の長さを、評価の指標としてもよい。

また、フィルタを評価する場合の評価対象は、評価を行ったユーザのシステム／ユーザ変換フィルタｌｆであってもよいし、評価を行ったユーザと属性が同じであるユーザのシステム／ユーザ変換フィルタｌｆであってもよい。また、エージェントを評価する場合の評価対象は、全てのエージェントであってもよいし、エージェントの一部であってもよい。例えば、対話全体に対する評価は、評価を行ったユーザのシステム／ユーザ変換フィルタｌｆ、当該ユーザと属性が同じユーザのシステム／ユーザ変換フィルタｌｆ、対話に参加した全てのエージェント等に反映されてよい。また、応答に対する評価は、評価を行ったユーザのシステム／ユーザ変換フィルタｌｆ、当該ユーザと属性が同じユーザのシステム／ユーザ変換フィルタｌｆに反映されてもよいし、その応答を行ったエージェントにのみ反映されてもよい。

次に、対話における応答の提示態様について説明する。
図９、図１０は、情報処理システム１による応答の提示例を示す図である。
図９と図１０とに示す例では、いずれも、「胸のつかえがある」との医療相談がユーザにより行われている。ただし、図９に示す例では、ユーザは医療関係者であるのに対して、図１０に示す例では、ユーザは会社員である。医療関係者に対しては、正確な医療情報の提供が求められる。そこで、図９に示す例では、フィルタは、エージェントａ１、ａ２の応答をあえて変換することなくそのまま提示している。

これに対して、会社員に対しては、必ずしも正確に医療情報を提供することが最適とは限らない。例えば、ユーザがストレスの有無を指摘されることを嫌う場合や深刻な病気である可能性をむやみに通知して、いたずらに不安にさせることは望ましくない場合等がある。そこで、図１０に示す例では、フィルタは、エージェントａ１によるストレスの有無について指摘する応答を、ストレスの解消方法を提示する応答に変換している。また、フィルタは、エージェントａ２による病気の可能性を指摘する応答を、病名の一部を伏せ、対処方法を提示する応答に変換している。

以上説明したように、情報処理システム１（情報処理システムの一例）は、対話部３５１（対話部の一例）と、記憶部３２（記憶部の一例）と、システム／ユーザフィルタ部３４（システム／ユーザ変換部の一例）と、を備える。対話部３５１は、応答（発言の一例）を生成してユーザとの対話を行う。記憶部３２は、発言の変換規則を示すシステム／ユーザ変換情報（変換情報の一例）を記憶する。システム／ユーザフィルタ部３４は、記憶部３２に記憶されたシステム／ユーザ変換情報を用いて、対話部３５１が生成した発言をユーザに応じた態様に変換する。

これにより、対話部３５１が生成した応答は、システム／ユーザフィルタ部３４によりユーザに応じた態様に変換される。例えば、対話部３５１が生成した応答に、ユーザにとって不快感を与える内容やユーザへの提示が望ましくない情報が含まれている場合であっても、応答を変換して、不快感を低減したり、情報の提示を抑制したりする。また、例えば、対話部３５１が生成した応答を、丁寧な表現に変換したり、箇条書きの表現に変換したりすることにより、ユーザに受け入れやすくしたり、確認しやすくする。従って、情報処理システム１は、ユーザに応じた応答を行うことができる。そして、情報処理システム１は、ユーザに応答の生成と応答の変換とを別の処理としているため、応答の生成についてはユーザに依存させないことで汎用性を確保しつつ、応答の変換についてはユーザに依存させることで多様性を確保することができる。つまり、情報処理システム１は、汎用性と多様性とを両立させることができる。

また、情報処理システム１において、記憶部３２は、システム／ユーザ変換情報をユーザごとに記憶する。システム／ユーザフィルタ部３４は、記憶部３２に記憶されたユーザごとのシステム／ユーザ変換情報（変換情報の一例）を用いて、対話部３５１が生成した発言をユーザに応じた態様に変換する。

これにより、対話部３５１が生成した応答は、ユーザごとのシステム／ユーザ変換情報を用いて、ユーザに応じた態様に変換される。つまり、個々のユーザ専用の変換規則により応答の変換が行われる。そのため、情報処理システム１は、個性が異なる個々のユーザに適した変換を行いやすい。従って、情報処理システム１は、ユーザに応じた応答を行うことができる。

（第２の実施形態）
第２の実施形態について説明する。本実施形態では、上述した構成と同様の構成については、同一の符号を付し、説明を援用する。
第２の実施形態に係る情報処理システム１Ａ（不図示）は、情報処理システム１と同様に、エージェントによる応答を変換して提示するシステムである。ただし、情報処理システム１Ａは、ユーザの発言を変換する点が異なる。

ここで、図１１を参照して、対話の流れとフィルタによる変換との概要について説明する。
図１１は、本実施形態に係るフィルタの概要を示す図である。
本実施形態の対話では、まず、ユーザが質問等の発言を行う（ｐ’１）。次に、ユーザ／システム変換フィルタｕｆは、ユーザの発言を変換し、各エージェントａ１、ａ２、…に出力する（ｐ’２）。ユーザ／システム変換フィルタｕｆは、ユーザごとに設けられてもよいし、各ユーザ間で共通であってもよい。ここでは、一例として、ユーザ／システム変換フィルタｕｆが、各ユーザ間で共通である場合について説明する。次に、エージェントａ１、ａ２、…は、それぞれ、ユーザの発言に対する応答を生成する（ｐ’３−１、ｐ’３−２、…）。この変換では、例えば、個人情報の削除や表現の修正等が行われる。

次に、システム／ユーザ変換フィルタｌｆは、エージェントａ１、ａ２、…の応答を、ユーザに応じて変換し、ユーザに提示する（ｐ’４−１、ｐ’４−２、…）。次に、ユーザは、エージェントａ１、ａ２、…の応答を評価する。この評価は、ユーザ／システム変換フィルタｕｆによる変換処理、システム／ユーザ変換フィルタｌｆによる変換処理、エージェントａ１、ａ２、…による応答の生成処理に反映される（ｐ’５、ｐ’６、ｐ’７）。このように、情報処理システム１Ａは、ユーザの発言をそのままエージェントａ１、ａ２、…に出力するのではなく、変換してから出力する。そのため、例えば、ユーザの個人情報がエージェントａ１、ａ２、…に学習され、他のユーザに対する応答時に利用されてしまうことを防いだり、ユーザの発言の意図を正確に把握してエージェントａ１、ａ２、…による応答の精度を向上させたりすることができる。

次に、情報処理システム１Ａの構成について説明する。
情報処理システム１Ａは、情報処理システム１が備える応答制御装置３０に代えて、応答制御装置３０Ａを備える。
図１２は、応答制御装置３０Ａの構成を示すブロック図である。
応答制御装置３０Ａの記憶部３２は、ユーザ／システム変換情報記憶部３２５Ａを備える。応答制御装置３０Ａの制御部３３は、ユーザ／システムフィルタ部３６Ａを備える。

ユーザ／システム変換情報記憶部３２５Ａは、ユーザ／システム変換情報を記憶する。ユーザ／システム変換情報とは、ユーザ／システム変換フィルタｕｆによる変換規則を示す情報である。つまり、ユーザ／システム変換情報とは、発言の変換規則を示す変換情報の一例である。例えば、ユーザ／システム変換フィルタｕｆがニューラルネットワークにより実現される場合、ユーザ／システム変換情報は、機械学習の結果、例えば機械学習により変動する活性化関数のパラメータ等の情報を含む。なお、ユーザ／システム変換フィルタｕｆが人工知能以外で実現される場合、ユーザ／システム変換フィルタｕｆは、例えば、発言と、発言に対する変換結果と、を一義的に対応付けた情報等であってよい。この対応付けは、テーブル等により行われてもよいし、関数等により行われてもよい。

ユーザ／システムフィルタ部３６Ａは、ユーザ／システム変換フィルタｕｆとして機能する。ユーザ／システムフィルタ部３６Ａは、ユーザ／システム変換部３６１Ａと、ユーザ／システム変換学習部３６２Ａと、を備える。
ユーザ／システム変換部３６１Ａは、ユーザの発言を、ユーザ／システム変換情報に基づいて変換する。ユーザの発言の変換は、発言内容の隠蔽、置換、派生、表現方法の変更等により行われてよい。発言内容の隠蔽とは、発言内容の一部又は全てを提示しないことである。置換とは、発言内容を、他の文言に置換することである。派生とは、発言内容から導き出される他の発言を生成することである。表現方法の変更とは、発言の実質的な内容を変更せずに、発言の文体やニュアンス等を変更することである。例えば、表現方法の変更には、発言を構成する文言を形態素解析して、その結果を合せて示すこと、発言内容を短文化すること等が含まれる。つまり、ユーザの言い回しの癖の解消等を行ってよい。

ユーザ／システム変換学習部３６２は、ユーザ／システム変換フィルタｕｆの機能を実現するための機械学習を行う。ユーザ／システム変換学習部３６２は、ユーザの利用開始前に行なわれる機械学習と、対話におけるユーザの評価による機械学習との２種類の機械学習を実行可能である。ユーザ／システム変換学習部３６２による機械学習の結果は、ユーザ／システム変換情報に反映される。ユーザ／システム変換学習部３６２による機械学習に用いられる教師データは、発言（例えば、図１１に示すｐ’１）と、変換結果（例えば、図１１に示すｐ’２）と、評価と、を対応付けたデータである。評価は、真偽の２値であってもよいし、３段階以上の値であってもよい。このような教師データを用いて学習を重ねることにより、ユーザ／システム変換部３６１Ａは、ユーザの発言を変換可能になる。

次に、情報処理システム１Ａの動作について説明する。
図１３は、情報処理システム１Ａによる処理の流れを示すフローチャートである。
図１３に示すステップＳ１００、Ｓ１０２、Ｓ１０４は、図８に示すステップＳ１００、Ｓ１０２、Ｓ１０４と同様であるため、説明を援用する。
（ステップＳＡ１０１）ステップＳ１００の後、応答制御装置３０Ａは、ステップＳ１００で受け付けたユーザの発言を、ユーザ情報、履歴情報、ユーザ／システム変換情報等に基づいて変換する。その後、情報処理システム１Ａは、ステップＳ１０２に処理を進める。

（ステップＳＡ１０６）ステップＳ１０４の後、応答制御装置３０Ａは、ユーザ／システム変換フィルタｕｆ、システム／ユーザ変換フィルタｌｆ及びエージェントの機械学習を、対話結果に基づいて行う。対話結果とは、提示された変換結果に対するユーザの反応であり、ユーザ／システム変換フィルタｕｆ、システム／ユーザ変換フィルタｌｆ及びエージェントに対する評価を示す。その後、情報処理システム１Ａは、図１３に示す処理を終了する。

なお、ユーザ／システム変換フィルタｕｆは、システム／ユーザ変換フィルタｌｆ及びエージェントによる学習を制御してよい。例えば、ユーザ／システム変換フィルタｕｆは、機械学習を行わせるシステム／ユーザ変換フィルタｌｆ及びエージェントを選択（判定）し、機械学習を行わせるシステム／ユーザ変換フィルタｌｆ及びエージェントに対してのみ、ユーザの評価（対話結果）を通知してよい。これに対して、ユーザ／システム変換フィルタｕｆは、機械学習を行わせないシステム／ユーザ変換フィルタｌｆ及びエージェントに対しては、ユーザの評価を通知しない。

例えば、ユーザの反応がシステム／ユーザ変換フィルタｌｆにより削除された応答内容に関するものである場合等、変換に起因して行われた評価については、システム／ユーザ変換フィルタｌｆにのみ学習を行わせてよい。これに対して、ユーザの反応がシステム／ユーザ変換フィルタｌｆによる変換前後で変化がない応答内容に関するものである場合等、変換に起因しないで行われた評価については、エージェントにのみ学習を行わせてよい。

また、例えば、学習を行わせるエージェントを、ユーザとエージェントとの関係性、エージェントの属性等に応じて選択してよい。ユーザとエージェントとの関係性に応じて選択する場合、例えば、ユーザによる各エージェントの評価の履歴を管理しておく。そして、より高い評価を獲得しているエージェント、いわばユーザと相性の良いエージェントに対してのみ学習を行わせるようにしてよい。また、エージェントの属性に応じて選択する場合、例えば、ユーザにより評価された応答を行ったエージェントと、同じ属性を有するエージェントに対してのみ、学習を行わせるようにしてよい。

なお、エージェントの属性は、エージェントごとにその属性を示した情報を、予め設定しておくことにより管理されてよい。エージェントの属性としては、例えば、カテゴリや性格等が設定されてよい。カテゴリとは、エージェントの分類であり、例えば、対話におけるエージェントの専門分野である。また、性格とは、積極性や感情表現等の応答の傾向である。なお、システム／ユーザ変換フィルタｌｆ及びエージェントの学習の制御は、例えば、対話処理部３３１等、ユーザ／システム変換フィルタｕｆとは異なる構成により行われてもよい。

以上説明したように、情報処理システム１Ａ（情報処理システムの一例）は、対話処理部３３１（受付部の一例）と、ユーザ／システムフィルタ部３６Ａ（ユーザ／システム変換部の一例）と、を備える。対話処理部３３１は、ユーザから発言を受け付ける。ユーザ／システムフィルタ部３６Ａは、対話処理部３３１が受け付けた発言を、対話部３５１に応じた態様に変換する。

これにより、ユーザの発言は、対話部３５１に応じた態様に変換される。例えば、ユーザの発言に個人情報が含まれている場合には、個人情報が削除される。また、例えば、ユーザの発言の表現が対話部３５１による処理に不適である場合には、対話部３５１による処理に適した態様に変換される。従って、情報処理システム１は、個人情報を保護したり、適切な応答を生成したりすることができる。

また、情報処理システム１Ａ（情報処理システムの一例）は、システム／ユーザフィルタ部３４（システム／ユーザ変換部の一例）と、ユーザ／システムフィルタ部３６Ａ（判定部の一例）と、を備える。システム／ユーザフィルタ部３４は、機械学習に基づいて変換を行う。ユーザ／システムフィルタ部３６Ａは、前記機械学習をするか否かを判定する。

これにより、システム／ユーザフィルタ部３４が必要な機械学習のみを行う。従って、情報処理システム１Ａは、変換の精度を向上させることができる。

また、情報処理システム１Ａ（情報処理システムの一例）は、複数のエージェント実行部３５（対話部の一例）と、ユーザ／システムフィルタ部３６Ａ（判定部の一例）と、を備える。エージェント実行部３５は、機械学習に基づいて発言を生成する。ユーザ／システムフィルタ部３６Ａは、複数のエージェント実行部３５のうち、機械学習するエージェント実行部３５を選択する。

つまり、情報処理システム１Ａは、機械学習するエージェント実行部３５を絞り込む。これに対して、複数のエージェント実行部３５が同様の機械学習を行った場合には、各エージェント実行部３５の応答が均質化されてしまう可能性がある。この点、情報処理システム１Ａは、機械学習の対象を選択するため、個々のエージェント実行部３５の個性を維持し、応答の汎用性と多様性を両立させることができる。また、情報処理システム１Ａは、例えば、機械学習の対象を、ユーザと相性の良いエージェントとすることにより、個性が類似するユーザへの応答の精度を向上させることができる。

（第３の実施形態）
第３の実施形態について説明する。本実施形態では、上述した構成と同様の構成については、同一の符号を付し、説明を援用する。
第３の実施形態に係る情報処理システム１Ｂ（不図示）は、情報処理システム１と同様に、エージェントによる応答を変換して提示するシステムである。ただし、情報処理システム１Ｂは、複数のシステム／ユーザ変換フィルタを備える点が異なる。

ここで、図１４を参照して、対話の流れとフィルタによる変換との概要について説明する。
図１４は、本実施形態に係るフィルタの概要を示す図である。
ここでは、一例として、３つのシステム／ユーザ変換フィルタｌｆ１、ｌｆ２、ｌｆ３を備える場合について説明する。以下では、個々のシステム／ユーザ変換フィルタｌｆ１、ｌｆ２、ｌｆ３を区別しない場合には、システム／ユーザ変換フィルタｌｆと総称する。

本実施形態に係る対話では、まず、ユーザが質問等の発言を行う（ｐ”１）。次に、エージェントａ１、ａ２、…は、それぞれ、ユーザの発言に対する応答を生成する（ｐ”２−１、ｐ”２−２、…）。次に、第１システム／ユーザ変換フィルタｌｆ１は、エージェントａ１、ａ２、…の応答を、ユーザに応じて変換し、ユーザに提示する（ｐ”３−１、ｐ”３−２、…）。次に、第２システム／ユーザ変換フィルタｌｆ２は、第２のシステム／ユーザ変換フィルタｌｆ１の変換結果を、ユーザに応じて変換し、ユーザに提示する（ｐ”４−１、ｐ”４−２、…）。ここで、この例では、情報処理システム１Ｂは、第３システム／ユーザ変換フィルタｌｆ３を備えるが、第３システム／ユーザ変換フィルタｌｆ３は適用せず、第３システム／ユーザ変換フィルタｌｆ３による変換は行わない。

次に、ユーザは、エージェントａ１、ａ２、…の応答を評価する。この評価は、適用したシステム／ユーザ変換フィルタｌｆ１、ｌｆ２による変換処理と、エージェントａ１、ａ２、…による応答の生成処理とに反映される（ｐ”５−１、ｐ”５−２、ｐ”６）。このように、情報処理システム１Ｂは、エージェントａ１、ａ２、…の応答を、複数のシステム／ユーザ変換フィルタにより変換可能である。そして、適用するシステム／ユーザ変換フィルタを選択可能である。従って、例えば、ユーザごとに適用するシステム／ユーザ変換フィルタを切り替えることにより、ユーザに応じた望ましい応答を提示することができる。

次に、情報処理システム１Ｂの構成について説明する。
情報処理システム１Ｂは、情報処理システム１が備える応答制御装置３０に代えて、応答制御装置３０Ｂを備える。
図１５は、応答制御装置３０Ｂの構成を示すブロック図である。
応答制御装置３０Ｂの記憶部３２は、システム／ユーザ変換情報記憶部３２１に代えて、システム／ユーザ変換情報記憶部３２１Ｂ−１、３２１Ｂ−２、…を備える。以下では、システム／ユーザ変換情報記憶部３２１−１、３２１−２、…を、システム／ユーザ変換情報記憶部３２１Ｂと総称する。応答制御装置３０Ｂの制御部３３は、対話部３５１に代えて対話部３５１Ｂを備える。また、応答制御装置３０Ｂの制御部３３は、システム／ユーザフィルタ部３４に代えてシステム／ユーザフィルタ部３４Ｂ−１、３４Ｂ−２、…を備える。以下では、システム／ユーザフィルタ部３４Ｂ−１、３４Ｂ−２、…を、システム／ユーザフィルタ部３４Ｂと総称する。

システム／ユーザ変換情報記憶部３２１Ｂは、システム／ユーザ変換情報を記憶する。ただし、本実施形態に係るシステム／ユーザ変換情報は、ユーザごとではなく、ユーザの属性ごとの情報である点が異なる。

対話処理部３３１Ｂは、対話処理部３３１と同様に、対話のための入出力処理を制御する。また、対話処理部３３１Ｂは、適用するシステム／ユーザ変換フィルタｌｆを、ユーザに応じて選択する。例えば、対話処理部３３１Ｂは、対話するユーザのユーザ情報を参照し、ユーザの属性を確認する。そして、対話処理部３３１Ｂは、対話するユーザの属性を用いてシステム／ユーザ変換情報を検索し、対話するユーザの属性に合致するシステム／ユーザ変換フィルタｌｆを選択する。具体的は、ユーザが男性である場合には男性用のシステム／ユーザ変換フィルタｌｆを選択したり、ユーザが小学生である場合には青少年用のシステム／ユーザ変換フィルタｌｆを選択したりする。

システム／ユーザフィルタ部３４Ｂは、システム／ユーザフィルタ部３４と同様に、システム／ユーザ変換フィルタｌｆとして機能する。ただし、システム／ユーザフィルタ部３４Ｂは、ユーザごとのシステム／ユーザ変換フィルタｌｆではなく、ユーザの属性ごとのシステム／ユーザ変換フィルタｌｆとして機能する点が異なる。

次に、情報処理システム１Ｂの動作について説明する。
図１６は、情報処理システム１Ｂによる処理の流れを示すフローチャートである。
ここでは、一例として、ユーザとの対話のために、２つのシステム／ユーザ変換フィルタｌｆが適用対象として選択されている場合について説明する。また、図１６に示すステップＳ１００、Ｓ１０２は、図８に示すステップＳ１００、Ｓ１０２と同様であるため、説明を援用する。

（ステップＳＢ１０４）ステップＳ１０２の処理の後、応答制御装置３０Ｂは、ステップＳ１０２で生成した応答を、ユーザ情報、履歴情報、第１システム／ユーザ変換フィルタｌｆ１のシステム／ユーザ変換情報に基づいて変換する。その後、情報処理システム１Ｂは、ステップＳＢ１０５に処理を進める。

（ステップＳＢ１０５）応答制御装置３０Ｂは、ステップＳＢ１０４で生成した応答を、ユーザ情報、履歴情報、第２システム／ユーザ変換フィルタｌｆ２のシステム／ユーザ変換情報に基づいて変換する。その後、情報処理システム１Ｂは、ステップＳＢ１０６に処理を進める。

（ステップＳＢ１０６）応答制御装置３０Ｂは、適用した２つのシステム／ユーザ変換フィルタｌｆ及びエージェントの機械学習を、対話結果に基づいて行う。対話結果とは、提示された変換結果に対するユーザの反応であり、適用したシステム／ユーザ変換フィルタｌｆ及びエージェントに対する評価を示す。その後、情報処理システム１Ｂは、図１６に示す処理を終了する。

以上説明したように、情報処理システム１Ｂ（情報処理システムの一例）において、記憶部３２（記憶部の一例）は、システム／ユーザ変換情報（変換情報の一例）を、ユーザの属性ごとに記憶する。システム／ユーザフィルタ部３４は、記憶部３２に記憶されたシステム／ユーザ変換情報をユーザの属性を用いて検索し、検索により特定された変換情報を用いて、対話部３５１が生成した発言を当該ユーザに応じた態様に変換する。

これにより、対話部３５１が生成した応答は、ユーザの属性に基づいて、ユーザに応じた態様に変換される。つまり、ユーザ属性ごとの汎用的な変換規則を用いて、個々のユーザに応じた応答の変換が行われる。そのため、情報処理システム１Ｂは、個々のユーザ専用の変換規則を設定するのに比して少ない負荷で、ユーザに応じた変換を行いやすい。従って、情報処理システム１は、ユーザに応じた応答を行うことができる。

（第４の実施形態）
第４の実施形態について説明する。本実施形態では、上述した構成と同様の構成については、同一の符号を付し、説明を援用する。
第４の実施形態に係る情報処理システム１Ｃ（不図示）は、情報処理システム１と同様に、エージェントによる応答を変換して提示するシステムである。ただし、情報処理システム１では、応答制御装置３０にフィルタの機能を持たせたのに対して、情報処理システム１Ｃでは、ユーザの端末装置側にフィルタの機能を持たせた点が異なる。

情報処理システム１Ｃの構成について説明する。
情報処理システム１Ｃは、情報処理システム１が備える端末装置１０と応答制御装置３０とに代えて、端末装置１０Ｃと応答制御装置３０Ｃを備える。
図１７は、端末装置１０Ｃの構成を示すブロック図である。
端末装置１０Ｃの記憶部１５は、システム／ユーザ変換情報記憶部１５１Ｃと、ユーザ情報記憶部１５２Ｃと、履歴情報記憶部１５３Ｃとを備える。また、端末装置１０Ｃの制御部１６は、システム／ユーザフィルタ部１７Ｃを備える。システム／ユーザフィルタ部１７Ｃは、システム／ユーザ変換部１７１Ｃと、システム／ユーザ変換学習部１７２Ｃと、を備える。

システム／ユーザ変換情報記憶部１５１Ｃは、システム／ユーザ変換情報記憶部３２１と同様の構成である。ユーザ情報記憶部１５２Ｃは、ユーザ情報記憶部３２３と同様の構成である。履歴情報記憶部１５３Ｃは、履歴情報記憶部３２４と同様の構成である。

システム／ユーザフィルタ部１７Ｃは、システム／ユーザフィルタ部３４と同様の構成である。システム／ユーザ変換部１７１Ｃは、システム／ユーザ変換部３４１と同様の構成である。システム／ユーザ変換学習部１７２Ｃは、システム／ユーザ変換学習部３４２と同様の構成である。

図１８は、応答制御装置３０Ｃの構成を示すブロック図である。
応答制御装置３０Ｃの記憶部３２は、応答制御装置３０の記憶部３２が備えるシステム／ユーザ変換情報記憶部３２１を備えない。応答制御装置３０Ｃの制御部３３は、システム／ユーザフィルタ部３４を備えない。

以上説明したように、情報処理システム１Ｃ（情報処理システムの一例）では、端末装置１０Ｃがシステム／ユーザフィルタ部１７Ｃを備える。このように、上述した各実施形態における任意の構成は、別体の装置に分離して備えられてよいし、組み合わされてもよい。

なお、上記各実施形態では、システム／ユーザ変換フィルタｌｆは、ユーザに応じた変換規則を示すものとして説明したが、これには限らない。システム／ユーザ変換フィルタｌｆは、エージェントに応じた変換規則を示してもよいし、ユーザとエージェントとの組み合わせに応じた変換規則を示してもよい。つまり、ユーザとエージェントとの関係性に応じた変換規則を示してもよい。

なお、上記実施形態において、各種情報のデータ構成は、上述したものに限られない。各情報の対応付けは、直接的に行われてもよいし、間接的に行われてもよい。また、処理に必須ではない情報を省略してもよいし、類似の情報を追加して処理を行ってもよい。例えば、ユーザ情報として、ユーザの居所や職業等を含めてもよい。また、例えば、履歴情報は、上記実施形態のように、対話の内容を集約したものでなく、対話そのものを記録した情報であってもよい。

なお、上記実施形態において、応答の提示態様は、上述したものに限られない。例えば、各発言は、時系列に提示されてもよい。また、例えば、応答を行った応答用エージェントを明確にすることなく応答を提示してもよい。

なお、上記実施形態では、ユーザ情報や履歴情報等のユーザに関する情報の参照が、エージェント実行部３５に対して制限されている場合について説明したが、これには限らない。例えば、エージェント実行部３５は、ユーザに関する情報を参照して応答の生成や機械学習を行ってもよい。ただし、エージェント実行部３５に対してユーザに関する情報を制限することにより、個人情報を保護することができる。

例えば、エージェント実行部３５を複数のユーザへの応答に利用する場合は、あるユーザへの応答において、他のユーザへの機械学習の結果が反映される。この機械学習に他のユーザの個人情報が含まれると、生成された応答に個人情報が含まれて、ユーザの個人情報が流出してしまう恐れがある。この点、ユーザ情報の参照を制限することにより、応答に個人情報が含まれることがなくなる。このように、実施形態で説明した任意の情報の利用は、ユーザからの指定や初期設定で制限されてよい。

上記各実施形態では、制御部１６、制御部３３はソフトウェア機能部であるものとしたが、ＬＳＩ（Ｌａｒｇｅ Ｓｃａｌｅ Ｉｎｔｅｇｒａｔｉｏｎ）等のハードウェア機能部であってもよい。

以上説明した少なくともひとつの実施形態によれば、システム／ユーザフィルタ部３４を持つことにより、ユーザの発言に対して、ユーザに応じた応答を行うことができる。

また、上述の端末装置１０、１０Ｃ、応答制御装置３０、３０Ａ〜３０Ｃの機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより端末装置１０、１０Ｃ、応答制御装置３０、３０Ａ〜３０Ｃとしての処理を行ってもよい。ここで、「記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行する」とは、コンピュータシステムにプログラムをインストールすることを含む。ここでいう「コンピュータシステム」とは、ＯＳや周辺機器等のハードウェアを含むものとする。また、「コンピュータシステム」は、インターネットやＷＡＮ、ＬＡＮ、専用回線等の通信回線を含むネットワークを介して接続された複数のコンピュータ装置を含んでもよい。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ−ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。このように、プログラムを記憶した記録媒体は、ＣＤ−ＲＯＭ等の非一過性の記録媒体であってもよい。また、記録媒体には、当該プログラムを配信するために配信サーバからアクセス可能な内部または外部に設けられた記録媒体も含まれる。配信サーバの記録媒体に記憶されるプログラムのコードは、端末装置で実行可能な形式のプログラムのコードと異なるものでもよい。すなわち、配信サーバからダウンロードされて端末装置で実行可能な形でインストールができるものであれば、配信サーバで記憶される形式は問わない。なお、プログラムを複数に分割し、それぞれ異なるタイミングでダウンロードした後に端末装置で合体される構成や、分割されたプログラムのそれぞれを配信する配信サーバが異なっていてもよい。さらに「コンピュータ読み取り可能な記録媒体」とは、ネットワークを介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ（ＲＡＭ）のように、一定時間プログラムを保持しているものも含むものとする。また、上記プログラムは、上述した機能の一部を実現するためのものであってもよい。さらに、上述した機能をコンピュータシステムに既に記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル（差分プログラム）であってもよい。

また、上述した端末装置１０、１０Ｃ、応答制御装置３０、３０Ａ〜３０Ｃの機能の一部または全部を、ＬＳＩ等の集積回路として実現してもよい。上述した各機能は個別にプロセッサ化してもよいし、一部、または全部を集積してプロセッサ化してもよい。また、集積回路化の手法はＬＳＩに限らず専用回路、または汎用プロセッサで実現してもよい。また、半導体技術の進歩によりＬＳＩに代替する集積回路化の技術が出現した場合、当該技術による集積回路を用いてもよい。

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。

１…情報処理システム、１０、１０Ｃ…端末装置、３０、３０Ａ〜３０Ｃ…応答制御装置、１１…通信部、１２…入力部、１３…表示部、１４…音声出力部、１５…記憶部、１６…制御部、１５１Ｃ…システム／ユーザ変換情報記憶部、１５２Ｃ…ユーザ情報記憶部、１５３Ｃ…履歴情報記憶部、１６１…対話処理部、１７Ｃ…システム／ユーザフィルタ部、１７１Ｃ…システム／ユーザ変換部、１７２Ｃ…システム／ユーザ変換学習部、３１…通信部、３２…記憶部、３３…制御部、３２１、３２１Ｂ…システム／ユーザ変換情報記憶部、３２２…エージェント構成情報記憶部、３２３…ユーザ情報記憶部、３２４…履歴情報記憶部、３２５Ａ…ユーザ／システム変換情報記憶部、３３１…対話処理部、３４、３４Ｂ…システム／ユーザフィルタ部、３４１、３４１Ｂ…システム／ユーザ変換部、３４２…システム／ユーザ変換学習部、３５…エージェント実行部、３５１…対話部、３５２…エージェント学習部

Claims (9)

1. 発言を生成してユーザとの対話を行う対話部と、
   発言の変換規則を示す変換情報を記憶する記憶部と、
   前記記憶部に記憶された変換情報を用いて、前記対話部が生成した発言をユーザに応じた態様に変換するシステム／ユーザ変換部と、
   を備える情報処理システム。
2. ユーザから発言を受け付ける受付部と、
   前記受付部により受け付けた発言を、前記対話部に応じた態様に変換するユーザ／システム変換部と、
   を備える請求項１に記載の情報処理システム。
3. 前記システム／ユーザ変換部は、記憶部に記憶されたユーザごとの変換情報を用いて、前記対話部が生成した発言をユーザに応じた態様に変換する
   請求項１又は請求項２に記載の情報処理システム。
4. 前記システム／ユーザ変換部は、記憶部に記憶されたユーザの属性ごとの変換情報をユーザの属性を用いて検索し、検索により特定された変換情報を用いて、前記対話部が生成した発言を当該ユーザに応じた態様に変換する
   請求項１から請求項３のいずれか一項に記載の情報処理システム。
5. 前記システム／ユーザ変換部は、機械学習に基づいて変換を行い、
   前記機械学習をするか否かを判定する判定部、
   を備える請求項１から請求項４のいずれか一項に記載の情報処理システム。
6. 前記対話部は、機械学習に基づいて発言を生成し、
   複数の前記対話部の中から、機械学習する対話部を判定する判定部、
   を備える請求項１から請求項４のいずれか一項に記載の情報処理システム。
7. 発言を生成してユーザとの対話を行う対話部と、
   発言の変換規則を示す変換情報を、当該変換情報を予め記憶する記憶部から読み出して、前記対話部が生成した発言をユーザに応じた態様に変換するシステム／ユーザ変換部と、
   を備える情報処理装置。
8. 発言の変換規則を示す変換情報を記憶する記憶部を備える情報処理システムによる情報処理方法であって、
   前記情報処理システムが、発言を生成してユーザとの対話を行う第１ステップと、
   前記情報処理システムが、前記記憶部に記憶された変換情報を用いて、前記第１ステップにおいて生成した発言をユーザに応じた態様に変換する第２ステップと、
   を含む情報処理方法。
9. コンピュータに、
   発言を生成してユーザとの対話を行う第１ステップと、
   発言の変換規則を示す変換情報を、当該変換情報を予め記憶する記憶部から読み出して、前記第１ステップにおいて生成した発言をユーザに応じた態様に変換する第２ステップと、
   を実行させるためのプログラム。

Images