GUIAbstract物理的に具体化された「3D(three-dimensional)」オブジェクトとユーザが相互作用する感覚を生成するために、音声、視覚、および触覚フィードバックが利用される設定を通じて、複数の知覚体験を、タッチ画面を有するデバイスのユーザに与える。特定の大きさ、持続時間または方向を有する動きをタッチ画面に伝えて、ユーザが、触ることによってタッチ画面上に表示されたオブジェクトを見つけられるようにする。具体的な例において、音響効果と、動画などの視覚効果とが組み合わされたとき、触覚フィードバックは、タッチ画面上のボタンが、ユーザがそれを押下したときに、本物の、物理的に具体化されたボタンのように動く知覚を生成する。ボタンは、その外観を変え、「クリック」の音声がデバイスによって再生されて、タッチ画面は、触力覚フィードバックをユーザの指に与える。Description本発明は、複数の知覚体験をデバイスのユーザに与える方法、および、知覚フィードバック体験を与えることによって、タッチ画面上に表示されたオブジェクトとの3D相互作用をシミュレートするデバイスに関する。interface)」に代わるものとして急速に普及している。タッチ画面は、携帯デバイスと位置が固定されたデバイスとの両方を含む、様々なデバイスに使用される。assistant)」、ならびに音楽およびビデオを再生するパーソナルメディアプレーヤを含む。タッチ画面を使用する、位置が固定されたデバイスは、一般的に、例えば、車に使用されるもの、「POS(point-of-sale)」端末機、および医療用および工業用アプリケーションに使用される装備を含む。タッチ画面は、コンピュータデバイスからの出力をユーザに表示し、ユーザからの入力を受信する、両方の機能を果たすことができる。一部の例では、ユーザは、スタイラスを用いて画面上で「書き」、書いたものは、コンピュータデバイスへの入力に変わる。他の例では、ユーザの入力オプションが、例えば、制御、ナビゲーション、またはオブジェクトのアイコンとして画面上に表示される。ユーザがスタイラスまたは指で画面上の関連するアイコンに触ることによって入力オプションを選択したとき、コンピュータデバイスは、触った位置を感知して、アイコンを提示したアプリケーション、またはユーティリティにメッセージを送信する。文を入力するために、主として、物理的に具体化された標準のキーボードのキートップに似た一連のアイコンである「仮想キーボード」が、タッチ画面上に表示される。ユーザは、その後、特定のキートップアイコンと関連するタッチ画面のエリアを連続的に触ることによって「タイプする」。一部のデバイスは、キーまたはアイコンがアクチュエートしたとき、ユーザにフィードバックを与えるための音声クリックまたは他の音を出すように構成される。他のデバイスは、キーまたはアイコンが押下されたとき、ユーザに視覚的合図を与えるためにキーまたはアイコンの外観を変えるように構成されてもよい。現在のタッチ画面は、ほとんどのアプリケーションにおいてうまく機能するが、それらは、ユーザが、タッチ画面上のアイコンまたはキーを見つけて使用する視覚を使わずに入力するのを望む、「ブラインド」データ入力またはタッチタイピングにあまり適していない。一部の環境において、視覚的および聴覚的図に依存してフィードバックを与えることが常に可能とは限らない。タッチ画面を、それらを見えにくくする直射日光のもと、または聞き取りが困難な雑音環境において動作させることがある。車内で、タッチ画面が機能しているとき、運転者が道から目をそらすことは危険である。従来のHMIデバイスは、主として、触ることによって機能することができる。物理的キーボードを用いて、ユーザは、個々のキーを触ることができる。一部の例では、「F」および「J」などのいくつかのキーが、小さなポッチまたは横線を有することにより、ユーザがキーを見ずに触ることによって自分の指をキーの「中心(home)」列の上に置くことができる。現在のタッチ画面を比較すると、ボタンまたはキーが押下されたとき、聴覚または視覚のフィードバックを与えるものでさえ、ユーザが触ることによってアイコンまたはキーを見つけて動作することができない。本背景技術は、以下に続く発明の概要および発明の詳細な説明の簡易な文脈を導入するために与えられる。本背景技術は、特許請求の範囲の対象事項の範囲を決めるのに役立つものであることを意図せず、または特許請求の範囲の対象事項を、上記に提示された任意またはすべての不利点または問題を解決する実装に限定するものと見なされることを意図しない。音声、視覚および触覚のフィードバックを利用して、ユーザが、物理的に具体化された「3D(three-dimensional)」オブジェクトと相互作用する感覚を生成する設定によって、複数の知覚体験を、タッチ画面を有するデバイスのユーザに与える。特定の大きさ、持続時間または方向を有する動きをタッチ画面に伝えて、ユーザが、触ることによってタッチ画面上に表示されたオブジェクトを見つけられようにする。これらのオブジェクトは、制御またはファイル、仮想キーボードのキートップ、もしくは経験または機能をユーザに与えるために使用される他の構成要素を表すアイコンを含むことができる。音響効果と、動画などの、視覚効果とを組み合わせた場合、触覚フィードバックは、タッチ画面上のボタンが、ユーザによって押下されたときに、まるで本物の、物理的に具体化されたボタンのように動く知覚を生成する。ボタンは、その外観、デバイスが再生する「クリック」の音声を変え、タッチ画面が動いて(例えば、振動する)、ユーザの指またはスタイラスに触力覚フィードバックを与える。様々な具体的な例において、振動を作り出すモータなどの1または複数のモーションアクチュエータを、タッチ画面が内蔵された携帯デバイスに固定して接続する。デバイスが、主として、POS端末機などの固定された位置にあるアプリケーションにおいて、モーションアクチュエータを、移動できるタッチ画面に取り付けてもよい。モーションアクチュエータが、タッチ画面上に表示されたオブジェクトとのユーザ相互作用に応じて、大きさ、持続時間および強度を変えることができる触力覚フィードバックを作り出すことによって、さまざまな明示的なタッチ体験を作り出して、それらがあたかも三次元を有するかのように、タッチ画面上のオブジェクトとの異なる相互作用をシミュレートできるようにする。従って、仮想キーボートのキートップの端部は、それを押下してアクチュエートしたとき、キートップの中央部とは異なるように感じる。タッチ効果のこのような区別は、視覚的合図に頼る必要なく、ユーザが、触ることによって有利にタッチ画面に入力できるようにする。本発明の概要は、以下の発明の詳細な説明でさらに説明される簡易な形式において概念の1つの選択を導入するために与えられる。本発明の概要は、特許請求の範囲の対象事項での重要な特徴または不可欠な特徴を特定することを意図せず、または特許請求の範囲の対象事項の範囲を決めるのに役立つものとして用いられることを意図しない。図中、同じ参照数字は、同じ構成要素を示す。タッチ画面を使用して、ユーザがデバイスと相互作用する具体的な携帯コンピュータ環境を示す図である。アイコンおよび仮想キーボードを通じてユーザ相互作用を支援する具体的なタッチ画面を示す図である。物理制御を使用して、タッチ画面によって与えられた制御を補完する、携帯コンピュータデバイスの代替的で具体的なフォームファクタを示す図である。物理制御を使用して、タッチ画面によって与えられた制御を補完する、携帯コンピュータデバイスの代替的で具体的なフォームファクタを示す図である。ボタンアイコンがアクチュエートしていない状態のとき、奥行き面を有するように設定された具体的なボタンアイコンを示す図である。ボタンアイコンがアクチュエートした状態で見えるときの具体的なボタンアイコンを示す図である。キートップがアクチュエートしていない状態のとき、奥行き面を有するように設定された具体的なキートップを示す図である。キートップがアクチュエートした状態で見えるときの具体的なキートップを示す図である。デバイスのタッチ画面を使用してキートップをアクチュエートしたとき、触覚、音声および視覚のフィードバックの組み合わせをユーザに与える具体的な携帯コンピュータデバイスを示す図である。具体的な振動モータの正面図である。具体的な偏心荷重を回転させる直交図である。振動装置が断面図に示したデバイスに取り付けられたときの上面図である。振動装置がPOS端末機のタッチ画面に取り付けられたときの直交図である。キートップが奥行き面を有する知覚をユーザに伝えるタッチに応じて、触力覚フィードバックの輪郭が適用された具体的な仮想キートップの上面図を示す図である。キートップが奥行き面を有する知覚をユーザに伝えるタッチに応じて、触力覚フィードバックの輪郭が適用された具体的な仮想キートップの側面図を示す図である。音声、視覚および触覚のフィードバックを使用した、3−Dオブジェクトシミュレーションの具体的なアプリケーションを示す図である。音声、視覚および触覚のフィードバックを使用した、3−Dオブジェクトシミュレーションを実装するための具体的なアーキテクチャを示す図である。音声、視覚および触覚のフィードバックを使用した本「3−D(three-dimensional)」オブジェクトシミュレーションのアプリケーションを容易にするタッチ画面110を使用して、ユーザ102がデバイス105と相互作用する、具体的な携帯コンピュータ環境100を図1に示す。図1に示すように、デバイス105は、一般的に、携帯電話機、スマートフォン、PDA、ウルトラモバイルPC(パーソナルコンピュータ)、携帯ゲーム機、パーソナルメディアプレーヤなどの、携帯コンピュータプラットフォームまたは情報家電として構成される。主として、タッチ画面110は、ディスプレイコンポーネント上に構成されるタッチセンサコンポーネントから構成される。ディスプレイコンポーネントは、PCまたはラップトップコンピュータ上の主なモニタのディスプレイコンポーネントと同じ方法で画像を表示する。display)」を使用する。tube)」、プラズマ画面およびEL画面を含む他の標準の表示技術を利用してもよい。タッチセンサコンポーネントは、ディスプレイコンポーネントの上部にある。タッチセンサを透明にして、ディスプレイが透けて見えるようにできる。タッチセンサ技術の多くの異なる種類は公知であり、特定の実装の要求に応じて適用できる。みゲージ、分散信号、音響パルス認識、赤外線および弾性表面波の技術を含む。現在の一部のタッチ画面は、複数の同時性タッチポイントを区別することができ、および/または感圧性である。タッチ画面110との相互作用は、主として、指または親指を使用して、もしくは非容量型タッチセンサとして実現され、スタイラスも使用されてもよい。デバイス105の携帯フォームファクタを図1に示すが、本設定は、タッチ画面が使用される固定されたアプリケーションに代替的に使用できる。machine)」、「POS(point-of-sale)」端末機、または空港、銀行、レストランが使用するようなセルフサービスキオスクなど、およびユーザが問い合わせを行い、セルフサービスのチェックアウトを行い、または他の種類の取引を完了できるようにする小売店を含む。機械または設備を制御し、発注し、在庫管理などをするためにタッチ画面を使用する工業用、医療用および他のアプリケーションも検討される。conditioning)」、娯楽およびナビゲーションなどのサブシステムを制御する自動車においても普及しつつある。Surface(商標)も、本3−Dオブジェクトシミュレーションを用いて使用するのに適用されてもよい。工業用のアプリケーションに必ずしも限定されないことも強調しておく。法の施行のシナリオを含む、広範囲の使用および適用が支援されてもよい。多くを要求するこれらの環境において、デバイスおよびシステムに対するより肯定的な相互作用および制御は、音声、視覚および触覚のフィードバックの組み合わせを使用して、ユーザに与えられたタッチ画面上に表示されたオブジェクトの相関関係および曖昧性の除去が改善されることによって可能になる。図2に、アイコン202および仮想キーボード206を通じてユーザ相互作用を支援する具体的なタッチ画面110を示す。アイコン202は、タッチ画面110上に一般的に表示されるものを表し、ユーザの制御、入力またはナビゲーションを容易にする。アイコン202は、ファイル、ドキュメント、写真、音楽などのコンテンツを表してもよく、デバイス105上に格納され、または別の方法で(例えば、ネットワークまたは他の接続を経由して)利用できる。図のように、仮想キーボード206は、標準のキーボードのキートップを表す複数のアイコンを含む。)を示す表示域または編集用ウィンドウ(図2に図示せず)などの他の機能性を与える。図3Aおよび3Bに、物理制御307(例えば、ボタンなど)を使用してタッチ画面310によって与えられるユーザインタフェースを補完する、携帯コンピュータデバイス305の代替的で具体的なフォームファクタを示す。図3Aに示したこの例において、例えば、写真またはビデオを表すことができるいくつかのメディアコンテンツ(参照数字309および312で示される)を、タッチ画面310上に表示できる。図3Bに、タッチ画面310上に表示できる例示的なドキュメント322の1ページを示す。図3Aおよび3Bに示すように、デバイス305は、タッチ画面310の長い面が垂直方向に置かれた「縦向き」モードでタッチ画面310を置く。他のコンピュータデバイスが、ユーザ選択か自動的かのいずれかによって、縦向きモードと横向きモードとを切り替えることができるのに対し、3−Dオブジェクトシミュレーションの本設定を用いて使用できる、一部の携帯コンピュータデバイスは、横向きモードでタッチ画面を置くように設定することができる。図4に、奥行き面を有するように設定された具体的なボタンアイコン402を示す。影付け、遠近感および色彩などの視覚効果を、タッチ画面(例えば、図1のタッチ画面110または図3のタッチ画面310)上に表示される2−D構成要素に適用して、3−Dの形を有する外観にすることができる。この例において、ボタンアイコンがアクチュエートしていない(すなわち、ユーザによって作動されていないまたは「押下」されていない)状態のとき、視覚効果をボタンアイコン402に適用して、その上面が、携帯コンピュータデバイスの表面から突き出ている本物のボタンのように、タッチ画面の平面の上に位置しているように見せることができる。図4Bに、ユーザが、ボタンアイコンを指またはスタイラスで触ることによってアクチュエートしたときに見えるボタンアイコン411を示す。図のように、視覚効果が除かれ(あるいは、効果が減少され、または別に適用される)、ボタンアイコン402が押下されたときに高さが低くなったように見せることができる。感圧性をタッチ画面に用いるそれらのアプリケーションにおいて、視覚効果は、例えば、適用される圧力の量に比例して減少されてもよい。このようにして、ボタン411は、ユーザがタッチ画面110上を強く押下すにつれてさらに下降するように見せることができる。図5Aおよび図5Bに、具体的なキートップに適用されたとき、図4Aおよび図4Bに伴う上記の文と同じ視覚効果のアプリケーションを示す。図5Aに、アクチュエートしていない状態でのキートップ502を示し、図5Bに、ユーザが、キートップを指またはスタイラスで触ることによってアクチュエートしたときに見えるキートップ511を示す。図6に、デバイスのタッチ画面110を使用して、仮想キーボード206のキートップがアクチュエートしたとき、ユーザ102に本物の3−Dキーと相互作用する錯覚与えるために、触覚、音声および視覚のフィードバックの組み合わせをユーザに与えるように構成された、具体的な携帯コンピュータデバイス105を示す。本3−Dオブジェクトシミュレーションの一部のアプリケーションにおいて、3つのフィードバック構造(触覚、音声および視覚)のすべての組み合わせを利用することよって、デバイス上でのブラインド入力および/またはタッチタイピングを十分可能にしながら、大いに満足できるユーザ体験を与えることが予想される。他のシナリオにおいて、フィードバックを単一または2つのさまざまな組み合わせにおいて使用することによっても、特定のアプリケーションの要求に応じた、満足できる結果を与えることができる。図6に、仮想キーボードの具体的な例を示すが、本明細書に説明するフィードバック技術の使用を、制御またはナビゲーションに使用されるアイコンと、デバイス105に格納または利用できるコンテンツを表すことができるアイコンとに適用できることも強調しておく。この例における視覚フィードバックは、図4A、4B,5Aおよび5Bに示した視覚効果のアプリケーションを含み、特定のキートップが押されたときに、ユーザに視覚的に示す仮想キーボード206のキートップに関して、文に伴って説明される。図のように、仮想キーボード206のキーは、それらをタッチ画面110の表面から離れている様に見せることができる影付けを用いて設定される。キートップに触ったときに、この影付け効果を除く(または減少させることができる)。図のようなこの例において、ユーザは、キートップ「G」を押下している。音声フィードバックは、主として、デバイス105に接続できるスピーカ606または外付けのヘッドセット(図示せず)を通じて、「クリック」(図6の参照数字602で示した)などのサンプル音声を再生することを備える。サンプル音声は、物理的に具体化されたキーボードでアクチュエートされる本物のキーの音をシミュレートするように設定される。代替的な設定において、利用されるサンプル音声は、特定の物理的動きをシミュレートしない、一部の任意の音(ビー、チリンチリン、音色、音符など)として構成されてもよいし、またはそのようなさまざまな音の中からユーザが選択してもよい。すべての例において、キートップがアクチュエートしたとき、サンプル音声の利用により、聴覚フィードバックをユーザに与える。触覚フィードバックを設定して、デバイス105に対する動きのアプリケーションを通じて本物のキートップとの相互作用をシミュレートする。タッチ画面110が本質的に硬質であるため、タッチ画面110に接触した時点でデバイス105の動きをユーザに伝える。この例において、その動きは、波線617を使用して図6に示した振動を生じる。振動装置712に備わっている、具体的な振動モータ704の正面図および具体的な偏心荷重710を回転させる直交図を、それぞれ図7Aと7Bに示す。この具体的な例において、振動装置712を使用して、上記に説明された触覚フィードバックを実装するために使用される振動の動きを与える。代替的な実施形態において、圧電振動子または電動リニアアクチュエータまたは回転型電動アクチュエータなどの他の種類のモーションアクチュエータが使用されてもよい。この例における振動モータ704は、荷重710が固定して取り付けられているシャフト717を回転させるように設定された、ほぼ円筒形状のDCモータである。振動モータ704は、荷重710を順方向と逆方向の両方に回転させて動作するようにさらに構成される。一部のアプリケーションにおいて、振動モータ704は、可変速度で動作するように設定されてもよい。振動モータ704の動作は、主として、以下の図10に伴う文で説明されたモーションコントローラ、アプリケーション、および知覚フィードバック論理コンポーネントによって制御される。偏心荷重710をシャフト717に対して非対称の形状にして、重心(図7Aの「G」として指定される)をシャフトと相殺できるようにする。従って、荷重が回転するときに方向を変えて、シャフトの角速度が増加するときに大きさを増加させるシャフト717に遠心力が伝わる。モーメントは、荷重710の回転方向と逆になる振動モータ704に適用される。携帯デバイスの実装において、振動装置712は、主として、図7Cの上部切り取り図に示すデバイス105などのデバイスの内部に固定して取り付けられる。この取り付けにより、振動装置712の動作による力(すなわち、遠心力およびモーメント)をデバイス105に容易に結合させて、デバイスが、振動装置712に駆動信号を送るアプリケーションに応答して振動できるようにする。適切な駆動信号のアプリケーションを通じて、例えば、回転方向、負荷サイクルおよび回転速度を含む振動装置712の動作の変化を実装することができる。異なる動作モードは、結合された振動の方向、持続時間および大きさを含むデバイス105の動きに影響を与えることが予想される。単一の振動装置を図7Cに示すが、3−Dオブジェクトシミュレーションの本設定の一部のアプリケーションにおいて、複数の振動装置を、デバイス105内の異なる位置および方向に固定して取り付けてもよい。この例において、デバイス105に伝えられる動きの方向および大きさに対する指の制御は、主として、実装されてもよい。強さのレベルを変える動きの多自由度は、従って、振動モータを単一および異なる駆動信号を用いた組み合わせにおいて動作させることによって実現できることを認識されたい。従って、さまざまな触覚効果を実装して、異なる錯覚が実現できるようにする。聴覚フィードバックと視覚フィードバックを適切に組み合わせたとき、粗さ、滑らかさ、粘着性などを含む異なる3−Dジオメトリまたはテクスチャを効果的にシミュレートすることができる。デバイス105により支援されるさまざまな機能を実装するのに使用されるソフトウェアおよび/またはファームウェアを実行するのに主に利用される、プロセッサ719およびメモリ721を、図7Cの幻影図に示す。単一のプロセッサ719を図7Cに示すが、一部の実装において複数のプロセッサを利用してもよい。メモリ721は、揮発性メモリ、不揮発性メモリまたはその2つの組み合わせを備えてもよい。POS端末機または、キオスクの実装において、振動装置712によって提供されるものと同じ機能性を与えるように構成された1または複数の振動装置を、端末機に移動可能に接続されるように構成されたタッチ画面に固定して取り付ける。図7Dに示すように、タッチ画面725を枠731内に移動可能に留め置いてもよいし、またはPOS端末機744の基部735に移動可能に取り付けられてもよい。このようにして、POS端末機744自体が固定されたままであるが、タッチ画面725を移動させて、触覚フィードバックをユーザに与えることができる。POS端末機744は、一般的に、1または複数のプロセッサおよびメモリ(図示せず)も含む。具体的な仮想キートップ808の上面図を図8Aに、側面図を図8Bに示す。キートップが奥行き面を有するという知覚をユーザに伝えるために、触覚フィードバックは、タッチに応答して1または複数の振動装置(例えば、図7の振動装置712)を動作することによって作り出す。図8Aおよび8Bに示す具体的な例において、振動を実装して、主として、複数の振動装置を使用することによって、大きさ、持続時間および方向を変える触覚フィードバック使用した触力覚フィードバックの輪郭を提供できるようにする。代替的な実施形態において、デバイス105のパーツ点数および煩雑さを減らすおよび/またはコストを下げるために、単一の振動装置が利用されてもよい。この代替的な例において、動きの自由度を利用できることが少なくなるが、3−Dのかなりの知覚は、主として、特定のアプリケーションに対して満足できるレベルまでなお実現可能である。図8Bの点線の輪郭で示したように、キートップ808に奥行きの触覚イリュージョンを提供して、それをユーザが触ったときに、それがタッチ画面110の表面から離れている様に感じることができるようにする。ユーザは、指またはスタイラスでキートップ808の横を、(図8Aの線812で示したように)例えば、左から右にスライドまたはドラッグすることができる。白矢印815で示したように、ユーザのタッチがキートップ808の端部に到達したとき、黒矢印818で示したように、タッチ画面110の平面に対してほぼ左方向の水平に触力覚フィードバックを適用する。(説明820に示すように、白矢印は、指またはスタイラスによるタッチの方向を示し、黒矢印は、触力覚フィードバックが生じた方向を示す)。矢印825で示したように、ユーザがキートップ808の仮想上部の端部からスライドしたとき、矢印830で示したように、触力覚フィードバックの方向は、ほぼ左側上方になり、キートップ808の端部の感じをユーザに伝える。キートップ808の端部を触ったときに触覚フィードバックを与えることによって、本物の、物理的に具体化されたキーボードと同じように単純に触ることによって、仮想キーボードのキートップをユーザが見つけるのを有利に支援することができる。矢印836で示したように、ユーザがキートップをアクチュエートするつもりでキートップ808の中央部(すなわち、非端部)を触ったとき、矢印842で示したように、触力覚フィードバックは、ほぼ上方に向く。この例において、触覚フィードバックをキートップアクチュエーションに与えるのに使用される力の大きさは、キートップの端部をユーザに示すのに使用される力よりも大きくなってよい。キートップを見つける際にユーザに与えられたフィードバック力を少なくしながら、デバイス105からの振動力を強くして、キートップがアクチュエートされたことを示すことができる。キートップアクチュエーションのフィードバックの持続時間を変えてもよい。従って、フィードバックを明示的にすることが可能になり、ユーザに対する触覚的合図によって、ユーザが機能を区別することができるようにする。ユーザがキートップを押下してそれをアクチュエートしたとき、主として、異なる感覚を体験しながら、ユーザが自分の指をキートップ上で滑らせたとき、その端部が明示的なフィードバックに影響を与えて、ユーザが触ることによってキートップを見つけることができるようにする。従って、ユーザは、主として、タッチ画面110の表面を指またはスタイラスで、リフトせずに横に滑らせて触ることによって、オブジェクト(例えば、ボタン、アイコン、キートップなど)を見つけるであろう。同じ滑らせるまたは「ホバリング」動作が、ユーザがデバイス上の物理的に具体化されたボタンおよびオブジェクトを見つけようとするときに使用されるので、これらの動作を直感的に予想することができる。明示的な触覚的合図を与えて、タッチ画面110上のオブジェクトの位置をユーザに示す。ユーザは、次に、例えば、ホバリングからクリッキングに切り替えることによってボタンをクリックして、オブジェクトをアクチュエートできる。これを、いくつかの代替的な方法の中の1つにおいて実現できる。感圧性のタッチ画面が使用される実装において、ユーザは、主として、圧力をさらに適用してボタンクリックを実装するであろう。ユーザは、タッチ画面110の表面から自分の指またはスタイラスを、主として、一時的にリフトしてよく、次に、ボタンをタップしてタッチ画面をクリックする(明示的な触覚的合図を与えて、ボタンクリックをユーザに確認させることができる)。リフティング動作によって、デバイス105が、ホバリングとクリッキングとを区別することができるので、ユーザのタップをボタンクリックとして解釈する。感圧性のタッチ画面を使用しない実装において、リフト・タップの方法論は、主として、触ることによってオブジェクトを見つけることと、オブジェクトの作動とを区別するために利用されるであろう。代替的な設定において、アイコンまたはボタンの「状態」に応じて、ユーザに与えられたフォースフィードバックを変えることができる。ここで、特定のユーザ体験またはユーザインタフェースを支援するためには、アイコンまたはボタンを有効化してよく、それによってユーザがアクチュエートまたは「クリック」することができる。他の例において、しかしながら、アイコンまたはボタンが使用不能になる場合もあるので、ユーザがアクチュエートすることができない。使用不能の状態において、例えば、特定のボタンまたはアイコンに対して、ユーザが「クリッカブル(clickable)」でないことを示すために、フィードバックの大きさをさらに小さく(またはフィードバックを無くす)利用することが望ましい場合もある。矢印845で示したように、ユーザがさらに自分の指をキートップ808の右側にスライドさせたとき、右側上方にある触力覚フィードバックを用いて、右端部の位置をユーザに示す。これを、矢印851で示す。矢印856で示したように、ユーザのタッチがキートップ808の遠端に到達したとき、矢印860で示したように、次に、タッチ画面110の平面に対してほぼ右方向の水平に触力覚フィードバックを適用する。ほとんどの例において、同じ触力覚フィードバックの輪郭を、ユーザがキートップ808上で指またはスタイラスを右から左に、および上から下に、下から上におよび他の方向からスライドさせる状況において適用できることに留意されたい。図9に、音声、視覚および触覚のフィードバックを使用した、本3−Dオブジェクトシミュレーションの具体的なアプリケーションを示す。この例において、図のようなネコ909などの「仮想ペット」を実装するのに使用されるオブジェクトを、タッチ画面110上のデバイス105上で実行するアプリケーションによって表示する。仮想ペットネコ909は、主として、毛繕い、撫でる、ネコの耳の後ろを掻くなどによって、ユーザが自身の仮想ペットと相互作用する娯楽またはゲームのシナリオ部分として利用される。これらの相互作用は、この例において、3−Dオブジェクトシミュレーションの本技術を適用することによって強化される。ユーザ1012が仮想ペットネコ(オブジェクト)を撫でたとき、ネコ909の画像は、タッチ画面110上のユーザのタッチに応じて、その毛が滑らかになっているのを見せるように動画化できる。ネコのゴロゴロと鳴く音、またはネコの毛を滑らかにするまたはパタパタたたく音(それぞれ、参照番号915と918とで示される)を含むことができる、適切なサンプル音は、スピーカ606または接続された外付けのヘッドセット(図示せず)によってレンダリングされる。タッチ画面110が感圧性である実装において、ユーザへの知覚フィードバックを、ユーザによるタッチ画面上の圧力の変更に応じて変更することができる。ユーザ102が、タッチ画面110上にさらに圧力をかけながらネコを撫でると、ネコ909は、さらに大声でゴロゴロと鳴くかもしれない。ユーザ102がネコ909を撫でたときに与えられる音および視覚のフィードバックに加えて、デバイス105は、1または複数の振動装置(例えば、図7およびそれに伴う文で説明された振動装置712)を使用する振動などの触覚フィードバックを与えるように構成される。タッチ画面110上でのユーザのタッチに応じてフィードバックフォースの方向、持続時間および大きさを変えることによって、例えば、ネコ909を撫でた感じ、および/またはユーザ102が触るのに応じてネコ909を動かすことを含む、さまざまな触感をシミュレートできる。音声、視覚および触覚のフィードバックを、単一または2つのさまざまな組み合わせにおいて使用できるが、その3つを組み合わせて利用することにより、上記に説明された具体的な娯楽またはゲームのアプリケーションによって与えられるような設定において、最も完成した3−Dオブジェクトシミュレーションおよび最も豊富なユーザ体験を与えることが多いことが想定される。図10に、音声、視覚および触覚のフィードバックを使用した、本3−Dオブジェクトシミュレーションの別の具体的なアプリケーションを示す。この例において、デバイス305は、ユーザ102が、タッチ画面310上のページ332の端部を触り、次に、ユーザの指でフリックまたは他の動きをすることによってページをめくることによって、ドキュメントの複数のページの中を閲覧できるように構成される。ドキュメントの次のページに進むために、ユーザ102は、ページ322の右端部を触って、次に、本物の本のページをめくるのと同じ動きで(タッチ画面310をユーザの指で横にドラッグすることによって)右から左に動かす。前のページに戻るために、ユーザ102は、ページ322の左端部を触って、それを右に動かすことができる。ユーザ102が、図8Aおよび8Bに伴う文において上記に説明されたもとの同じ方法で、タッチ画面310を触ることによってページ322の端部を見つけたときに、触覚フィードバックを与える。仮想ページがめくられるときに、例えば、ユーザ102が本物のページをめくるときに体験するかもしれない感じ(例えば、ページをめくるときの、少量の空気抵抗の受け止め、ページの硬さおよび/または本の縛り具合など)をシミュレートするために、付加的な触力覚フィードバックをデバイス305に適用することができる。多くのアプリケーションにおいて、触覚フィードバックは、主として、音声および視覚のフィードバックに組み合わされる。参照数字1015で示したように、デバイス305内のスピーカ1006、または接続された外付けのヘッドセット(図示せず)を通じてページをめくるときのパラパラというサンプル音が再生させる。図6に示した具体的な例およびそれに伴う文で説明されたように、代替的なサンプル音は、特定の物理的動きをシミュレートしない、任意の音(ビー、チリンチリン、音色、音符など)を含めて利用されてもよいし、またはそのようなさまざまな音の中からユーザが選択してもよい。すべての例において、ユーザが仮想ページ322をめくったときに、サンプル音の利用を聴覚フィードバックに与える。図10に示した例に、利用される視覚フィードバックは、ユーザの指またはスタイラスの動きに応じて動画の動きをつける、ページ322の動画を備えることができる。従って、タッチ画面310上のページ322に対するユーザのタッチに応じて、例えば、ページ322を、反対に向け、スライドし、または消去するなどして、ドキュメントの次のページまたは前のページを見せることができる。上記の具体的な例にあるように、タッチ画面310が感圧性である実装において、ユーザへの知覚フィードバックを、ユーザ102によるタッチ画面上の圧力の変更に応じて変更することができる。ユーザ102が、ページをさらに速くまたはさらに力を入れてめくる(すわなち、さらに圧力をタッチ画面310に適用する)場合、ページ322は、さらに速くめくられまたはスライドされ、ページがめくられる音を、さらに強くまたは大きくできる。図11は、音声、視覚および触覚のフィードバックを使用した本3−Dオブジェクトシミュレーションの実装を容易にするデバイス上でインストールできる、機能コンポーネントを示す具体的なアーキテクチャ1104である。機能コンポーネントを、ソフトウェア、ハードウェア、ファームウェア、またはソフトウェア、ハードウェア、ファームウェアのさまざまな組み合わせを使用して、代替的に実装できる。具体的なアーキテクチャ1104における機能コンポーネントを、図7Cに示したプロセッサ721によってメモリ719に格納された命令の実行によるランタイム時に生成できる。ホストアプリケーション1107は、図9およびそれに伴う文で説明されたように、主として、娯楽またはゲーム環境などの、特に所望される機能性を与えるのに利用される。一部の例では、ホストアプリケーション1107によって実装される機能は、デバイスのオペレーティングシステムまたはミドルウェアによって代替的に与えることができる。一部の実装において、仮想キーボードを介したファイルシステムの動作および入力を、基本オペレーションシステムの機能として支援できる。知覚フィードバック論理コンポーネント1120は、さまざまなフィードバック方法をホストアプリケーション1107に表示させるように構成され、ホストアプリケーションとハードウェア専用コントローラとの間の媒介として機能させる。これらのコントローラは、主に、ソフトウェアのデバイスドライバとして実装できる、タッチ画面コントローラ1125、音声コントローラ1128およびモーションコントローラ1134を含む。タッチ画面コントローラ1125、音声コントローラ1128、およびモーションコントローラ1134は、それぞれ、タッチ画面、音声ジェネレータ、および1または複数の振動装置と相互作用し、図11の単一のハードウェアレイヤ1140内で抽出される。他の機能において、タッチ画面コントローラ1125は、タッチ画面に適用されるタッチ座標および/または圧力を示すデータを獲得するように構成され、獲得されたデータを、主に入力イベントの形で知覚フィードバック論理コンポーネント1120に返信する。モーションコントローラ1134は、1または複数の振動装置と相互作用して、特定の実装の要求にこたえる必要に応じて、単一または複数の動きの自由度を与えるように構成できる。従って、知覚フィードバック論理コンポーネント1120は、対応する視覚的動画および音響効果とともに、図10の上記に示した例における滑らかになった毛の感じなどの、ホストアプリケーションからの特定の知覚効果の要求を受信するように設定される。知覚フィードバック論理コンポーネント1120は、次に、ハードウェア専用コントローラ用の適切なコマンドを作成することによって、所望の知覚効果をデバイス上に実装する。図10に伴う文に説明したように、ページをめくる複数の知覚効果を実装するために、知覚フィードバック論理コンポーネント1120は、タッチ画面上でのページ動画のレンダリングおよびページをめくる音の再生を呼び出す。1つの駆動信号、または一連の駆動信号を作り出して、振動装置などのモーションアクチュエータを制御する。駆動信号は、主に、振幅、周波数、パルス波形、持続時間などを変え、所望の触覚フィードバックを作り出す単一の振動装置(または複数の振動装置が利用される実装における振動装置のさまざまな組み合わせ)を対象としている。明示的な知覚的合図をユーザに与えるのに利用されるタッチ画面の動きにおいて、触覚フィードバックを提示してきたが、一部のシナリオにおいて他の方法も用いられてよいことも強調しておく。低電流のシミュレーションをユーザの指に与えて、タッチ画面を動かすことによって与えられる触感を取り換え、または補完する、触覚フィードバックを与えるために、静電気放電ジェネレータを使用できる場合がある。タッチ画面の周囲に磁場を生成するためにユーザ相互作用に応じて選択的に電圧を加える、電磁石を使用してもよい。この実施形態において、スタイラスの先端内部に永久磁石、電磁石または強磁性物質を有するスタイラスは、触覚フィードバックを与えるために、主に、磁場の動作によって作り出した反発力をユーザに戻すのに利用される。これらの磁石を、人工装具または手袋などの、ユーザが装着できる商品に組み込んで、スタイラスを使用せずにタッチ画面との直接相互作用を容易にできる。本発明の対象を構造的特徴および/または方法論的動作に特有の言語において説明してきたが、添付の特許請求の範囲に定義された本発明の対象事項は、上記の特定の機能または動作に必ずしも限定されないことを理解されたい。上記の特定の機能および動作は、特許請求の範囲を実装する例示的形式として開示される。視覚効果(402)を、前記オブジェクトとの前記相互作用に応じて前記表示(206)にレンダリングすることであって、前記視覚効果(402)が、前記ユーザ(102)への視覚フィードバックを通じて前記ユーザ相互作用を確認するステップとを備えることを特徴とする方法。(402)は、前記タッチ画面(110)上の前記オブジェクトを表示させて、前記オブジェクトが奥行き面を有するように見せることを備えることを特徴とする請求項2に記載の方法。前記オブジェクトに対する動画の適用をさらに備えることを特徴とする請求項3に記載の方法。前記ユーザが前記タッチ画面(110)に適用する圧力のレベルに応じて、前記タッチ画面に伝えられる動きを変えるステップをさらに含むことを特徴とする請求項1に記載の方法。前記ユーザが前記タッチ画面(110)に適用する圧力のレベルに応じて、再生を変えるまたはレンダリングを変えるステップをさらに含むことを特徴とする請求項6に記載の方法。前記知覚フィードバック論理命令を実行するために前記メモリ(719)に接続された少なくとも1つのプロセッサ(721)であって、前記知覚フィードバック論理命令は、実行されたとき、前記ユーザ動作に応じて前記知覚フィードバック体験を前記ユーザ(102)に実装し、前記知覚フィードバック体験は、前記触覚フィードバック、前記聴覚フィードバック、および前記視覚効果を含むことを備えることを特徴とするデバイス。携帯電話機、パーソナルデジタルアシスタント、スマートフォン、携帯ゲーム機、ウルトラモバイルPC、パーソナルメディアプレーヤ、POS端末機、セルフサービスキオスク、自動車用娯楽システム、自動車用ナビゲーションシステム、自動車用サブシステムコントローラ、自動車用HVACコントローラ、医療器具コントローラ、工業用設備コントローラ、またはATMの中の1つに付帯機能性を実装するための、1または複数の構造をさらに含むことを特徴とする請求項8に記載のデバイス。前記1または複数のモーションアクチュエータ(712)を、複数の動きの他自由度を用いて前記タッチ画面(110)を動かすために設定して、特定の3Dシミュレーションと関連付けられた明示的な動きを、前記タッチ画面(110)に伝えることができるようにすることを特徴とする請求項8に記載のデバイス。前記3Dシミュレーションは、ジオメトリまたはテクスチャの中の1つから選択されることを特徴とする請求項10に記載のデバイス。前記1または複数のモーションアクチュエータ(712)は、モータ(704)および偏心荷重(710)の回転を含む振動装置を備えることを特徴とする請求項10に記載のデバイス。前記モータ(704)を、可変速度、または可変持続時間、または順方向および逆方向において駆動されるように設定して、複数の異なる動きを、前記タッチ画面(110)に伝えて、前記複数の異なる動きのそれぞれを、異なる相互作用をシミュレートのために使用できるようにすることを特徴とする請求項12に記載のデバイス。前記1または複数のモーションアクチュエータ(712)は、可変磁場を作り出すように構成できる電磁石を備え、または静電気の放電を作り出すように構成できる静電気放電ジェネレータを備えることを特徴とする請求項10に記載のデバイス。前記音響レンダリングデバイス(606)は、内蔵スピーカか、または外部に接続できるヘッドセットのいずれかを含むことを特徴とする請求項10に記載のデバイス。前記タッチ画面(110)からの前記入力イベントを受信し、および前記オブジェクト(206)の表示を前記タッチ画面(110)上にレンダリングすることを制御するように構成されたタッチ画面コントローラ(1125)と、サンプル音声(602)の再生を制御して、前記聴覚フィードバックを通じて前記入力を確認するように構成された音声コントローラ(1128)と、1または複数のモーションアクチュエータ(712)によって前記タッチ画面(110)に適用される力を制御するように構成されたモーションコントローラ(1134)であって、前記力は、複数の異なる入力イベントのそれぞれに対して、明示的な動きを前記タッチ画面(110)に与えるために、可変の方向、持続時間および大きさを備えるモーションコントローラ(1134)とを備えることを特徴とするアーキテクチャ(1104)。前記対話型3D環境を作り出すため構成されたホストアプリケーション(1107)をさらに含むことを特徴とする請求項16に記載のコンピュータ読み取り可能媒体。タッチ画面、音声ジェネレータ、および1または複数のモーションアクチュエータを備えたハードウェア抽出レイヤ(1140)をさらに含むことを特徴とする請求項17に記載のコンピュータ読み取り可能媒体。前記タッチ画面(110)上に表示された前記オブジェクトを触ることによって見つけるために、前記入力イベントは、前記ユーザによるタッチを備えること特徴とする請求項18に記載のコンピュータ読み取り可能媒体。前記タッチ画面(110)上に表示された前記オブジェクトと相互作用するために、前記入力イベントは、前記ユーザによるタッチを備えること特徴とする請求項19に記載のコンピュータ読み取り可能媒体。