すう‐ち【数値】
1 計算や、計量・計測をして得られた数。 2 文字式の中の文字に当てはまる具体的な数。
すうちえんざん‐ユニット【数値演算ユニット】
⇒演算装置
すうち‐かい【数値解】
ある与えられた方程式について、数値計算によって近似的に求められた解。微分方程式については、初期値を与えることで数値解が得られ、オイラー法やルンゲ=クッタ法などの手法が知られる。近似解。→厳密解
すうち‐かいせき【数値解析】
自然科学や工学に現れる数学的問題を、コンピューターを使い、数値計算によって解くこと。
すうち‐けいさん【数値計算】
コンピューターを使って、代数的または解析的に解くことが困難な問題、または手計算では不可能な計算量が膨大な問題を解くこと。近年、コンピューターの演算能力の飛躍的な向上に伴い、大規模な計算が可能とな...