выпуклость

Ответ от Андрей Калинин[гуру]
Многоугольник (да и вообще, любая замкнутая фигура) называется выпуклым если отрезок, соединяющий любые две его точки полностью в этой фигуре содержится
график функции называется выпуклым вниз (вверх) , если он лежит под (над) касательной, проведенной к графику в любой точке.
Последнее определение содержит недостаток: оно не распространяется на графики недифференциируемых функций. В таких случаях применяют более общее определение, связанное с неравенством
p*f(a)+q*f(b) сравнивается с f(p*a) + f(q*b)
при этом p+q=1, для любых a и b, не равных и принадлежащих отрезку.
Если левая часть больше правой, то функция выпукла вниз, если наоборот, то вверх (тут могу напутать почитайте лучше соответствующую главу в учебнике)
Удачи!
Источник: Фихтенгольц. Курс дифференциального и интегрального счисления. Том 1.