{
"cells": [
{
"cell_type": "markdown",
"metadata": {},
"source": [
"# Dealing with NaN values #"
]
},
{
"cell_type": "code",
"execution_count": 1,
"metadata": {},
"outputs": [],
"source": [
"import pandas as pd\n",
"import numpy as np\n",
"from plydata import call"
]
},
{
"cell_type": "code",
"execution_count": 2,
"metadata": {},
"outputs": [
{
"data": {
"text/html": [
"
\n",
"\n",
"
\n",
" \n",
" \n",
" | \n",
" w | \n",
" x | \n",
" y | \n",
" z | \n",
"
\n",
" \n",
" \n",
" \n",
" 0 | \n",
" 1.0 | \n",
" NaN | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 1 | \n",
" 2.0 | \n",
" 2.0 | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 2 | \n",
" NaN | \n",
" NaN | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 3 | \n",
" 4.0 | \n",
" 4.0 | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 4 | \n",
" 5.0 | \n",
" 5.0 | \n",
" 5.0 | \n",
" NaN | \n",
"
\n",
" \n",
"
\n",
"
"
],
"text/plain": [
" w x y z\n",
"0 1.0 NaN NaN NaN\n",
"1 2.0 2.0 NaN NaN\n",
"2 NaN NaN NaN NaN\n",
"3 4.0 4.0 NaN NaN\n",
"4 5.0 5.0 5.0 NaN"
]
},
"execution_count": 2,
"metadata": {},
"output_type": "execute_result"
}
],
"source": [
"df = pd.DataFrame({\n",
" 'w': [1, 2, np.nan, 4, 5],\n",
" 'x': [np.nan, 2, np.nan, 4, 5],\n",
" 'y': [np.nan] * 4 + [5],\n",
" 'z': [np.nan] * 5\n",
"})\n",
"df"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"## Drop NaN Values ##"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"Drop rows with any NaN values"
]
},
{
"cell_type": "code",
"execution_count": 3,
"metadata": {},
"outputs": [
{
"data": {
"text/html": [
"\n",
"\n",
"
\n",
" \n",
" \n",
" | \n",
" w | \n",
" x | \n",
" y | \n",
" z | \n",
"
\n",
" \n",
" \n",
" \n",
"
\n",
"
"
],
"text/plain": [
"Empty DataFrame\n",
"Columns: [w, x, y, z]\n",
"Index: []"
]
},
"execution_count": 3,
"metadata": {},
"output_type": "execute_result"
}
],
"source": [
"df >> call(pd.DataFrame.dropna)"
]
},
{
"cell_type": "code",
"execution_count": 4,
"metadata": {},
"outputs": [
{
"data": {
"text/html": [
"\n",
"\n",
"
\n",
" \n",
" \n",
" | \n",
" w | \n",
" x | \n",
" y | \n",
" z | \n",
"
\n",
" \n",
" \n",
" \n",
"
\n",
"
"
],
"text/plain": [
"Empty DataFrame\n",
"Columns: [w, x, y, z]\n",
"Index: []"
]
},
"execution_count": 4,
"metadata": {},
"output_type": "execute_result"
}
],
"source": [
"# You can call method on the dataframe with '.method_name'\n",
"df >> call('.dropna')"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"Drop rows with all NaN values"
]
},
{
"cell_type": "code",
"execution_count": 5,
"metadata": {},
"outputs": [
{
"data": {
"text/html": [
"\n",
"\n",
"
\n",
" \n",
" \n",
" | \n",
" w | \n",
" x | \n",
" y | \n",
" z | \n",
"
\n",
" \n",
" \n",
" \n",
" 0 | \n",
" 1.0 | \n",
" NaN | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 1 | \n",
" 2.0 | \n",
" 2.0 | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 3 | \n",
" 4.0 | \n",
" 4.0 | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 4 | \n",
" 5.0 | \n",
" 5.0 | \n",
" 5.0 | \n",
" NaN | \n",
"
\n",
" \n",
"
\n",
"
"
],
"text/plain": [
" w x y z\n",
"0 1.0 NaN NaN NaN\n",
"1 2.0 2.0 NaN NaN\n",
"3 4.0 4.0 NaN NaN\n",
"4 5.0 5.0 5.0 NaN"
]
},
"execution_count": 5,
"metadata": {},
"output_type": "execute_result"
}
],
"source": [
"df >> call('.dropna', how='all')"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"Drop rows with NaN values in the x column."
]
},
{
"cell_type": "code",
"execution_count": 6,
"metadata": {},
"outputs": [
{
"data": {
"text/html": [
"\n",
"\n",
"
\n",
" \n",
" \n",
" | \n",
" w | \n",
" x | \n",
" y | \n",
" z | \n",
"
\n",
" \n",
" \n",
" \n",
" 1 | \n",
" 2.0 | \n",
" 2.0 | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 3 | \n",
" 4.0 | \n",
" 4.0 | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 4 | \n",
" 5.0 | \n",
" 5.0 | \n",
" 5.0 | \n",
" NaN | \n",
"
\n",
" \n",
"
\n",
"
"
],
"text/plain": [
" w x y z\n",
"1 2.0 2.0 NaN NaN\n",
"3 4.0 4.0 NaN NaN\n",
"4 5.0 5.0 5.0 NaN"
]
},
"execution_count": 6,
"metadata": {},
"output_type": "execute_result"
}
],
"source": [
"df >> call('.dropna', subset=['x'])"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"Drop and keep rows atleast 3 non-NaN values"
]
},
{
"cell_type": "code",
"execution_count": 7,
"metadata": {},
"outputs": [
{
"data": {
"text/html": [
"\n",
"\n",
"
\n",
" \n",
" \n",
" | \n",
" w | \n",
" x | \n",
" y | \n",
" z | \n",
"
\n",
" \n",
" \n",
" \n",
" 4 | \n",
" 5.0 | \n",
" 5.0 | \n",
" 5.0 | \n",
" NaN | \n",
"
\n",
" \n",
"
\n",
"
"
],
"text/plain": [
" w x y z\n",
"4 5.0 5.0 5.0 NaN"
]
},
"execution_count": 7,
"metadata": {},
"output_type": "execute_result"
}
],
"source": [
"df >> call('.dropna', thresh=3)"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"Drop columns with all NaN values"
]
},
{
"cell_type": "code",
"execution_count": 8,
"metadata": {},
"outputs": [
{
"data": {
"text/html": [
"\n",
"\n",
"
\n",
" \n",
" \n",
" | \n",
" w | \n",
" x | \n",
" y | \n",
"
\n",
" \n",
" \n",
" \n",
" 0 | \n",
" 1.0 | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 1 | \n",
" 2.0 | \n",
" 2.0 | \n",
" NaN | \n",
"
\n",
" \n",
" 2 | \n",
" NaN | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 3 | \n",
" 4.0 | \n",
" 4.0 | \n",
" NaN | \n",
"
\n",
" \n",
" 4 | \n",
" 5.0 | \n",
" 5.0 | \n",
" 5.0 | \n",
"
\n",
" \n",
"
\n",
"
"
],
"text/plain": [
" w x y\n",
"0 1.0 NaN NaN\n",
"1 2.0 2.0 NaN\n",
"2 NaN NaN NaN\n",
"3 4.0 4.0 NaN\n",
"4 5.0 5.0 5.0"
]
},
"execution_count": 8,
"metadata": {},
"output_type": "execute_result"
}
],
"source": [
"df >> call('.dropna', axis=1, how='all')"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"Drop columns with any NaN values in row 3."
]
},
{
"cell_type": "code",
"execution_count": 9,
"metadata": {},
"outputs": [
{
"data": {
"text/html": [
"\n",
"\n",
"
\n",
" \n",
" \n",
" | \n",
" w | \n",
" x | \n",
"
\n",
" \n",
" \n",
" \n",
" 0 | \n",
" 1.0 | \n",
" NaN | \n",
"
\n",
" \n",
" 1 | \n",
" 2.0 | \n",
" 2.0 | \n",
"
\n",
" \n",
" 2 | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 3 | \n",
" 4.0 | \n",
" 4.0 | \n",
"
\n",
" \n",
" 4 | \n",
" 5.0 | \n",
" 5.0 | \n",
"
\n",
" \n",
"
\n",
"
"
],
"text/plain": [
" w x\n",
"0 1.0 NaN\n",
"1 2.0 2.0\n",
"2 NaN NaN\n",
"3 4.0 4.0\n",
"4 5.0 5.0"
]
},
"execution_count": 9,
"metadata": {},
"output_type": "execute_result"
}
],
"source": [
"df >> call('.dropna', axis=1, subset=[3])"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"## Fill NaN values ##"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"Replace all NaN values with -1."
]
},
{
"cell_type": "code",
"execution_count": 10,
"metadata": {},
"outputs": [
{
"data": {
"text/html": [
"\n",
"\n",
"
\n",
" \n",
" \n",
" | \n",
" w | \n",
" x | \n",
" y | \n",
" z | \n",
"
\n",
" \n",
" \n",
" \n",
" 0 | \n",
" 1.0 | \n",
" -1.0 | \n",
" -1.0 | \n",
" -1.0 | \n",
"
\n",
" \n",
" 1 | \n",
" 2.0 | \n",
" 2.0 | \n",
" -1.0 | \n",
" -1.0 | \n",
"
\n",
" \n",
" 2 | \n",
" -1.0 | \n",
" -1.0 | \n",
" -1.0 | \n",
" -1.0 | \n",
"
\n",
" \n",
" 3 | \n",
" 4.0 | \n",
" 4.0 | \n",
" -1.0 | \n",
" -1.0 | \n",
"
\n",
" \n",
" 4 | \n",
" 5.0 | \n",
" 5.0 | \n",
" 5.0 | \n",
" -1.0 | \n",
"
\n",
" \n",
"
\n",
"
"
],
"text/plain": [
" w x y z\n",
"0 1.0 -1.0 -1.0 -1.0\n",
"1 2.0 2.0 -1.0 -1.0\n",
"2 -1.0 -1.0 -1.0 -1.0\n",
"3 4.0 4.0 -1.0 -1.0\n",
"4 5.0 5.0 5.0 -1.0"
]
},
"execution_count": 10,
"metadata": {},
"output_type": "execute_result"
}
],
"source": [
"df >> call(pd.DataFrame.fillna, -1)"
]
},
{
"cell_type": "code",
"execution_count": 11,
"metadata": {},
"outputs": [
{
"data": {
"text/html": [
"\n",
"\n",
"
\n",
" \n",
" \n",
" | \n",
" w | \n",
" x | \n",
" y | \n",
" z | \n",
"
\n",
" \n",
" \n",
" \n",
" 0 | \n",
" 1.0 | \n",
" -1.0 | \n",
" -1.0 | \n",
" -1.0 | \n",
"
\n",
" \n",
" 1 | \n",
" 2.0 | \n",
" 2.0 | \n",
" -1.0 | \n",
" -1.0 | \n",
"
\n",
" \n",
" 2 | \n",
" -1.0 | \n",
" -1.0 | \n",
" -1.0 | \n",
" -1.0 | \n",
"
\n",
" \n",
" 3 | \n",
" 4.0 | \n",
" 4.0 | \n",
" -1.0 | \n",
" -1.0 | \n",
"
\n",
" \n",
" 4 | \n",
" 5.0 | \n",
" 5.0 | \n",
" 5.0 | \n",
" -1.0 | \n",
"
\n",
" \n",
"
\n",
"
"
],
"text/plain": [
" w x y z\n",
"0 1.0 -1.0 -1.0 -1.0\n",
"1 2.0 2.0 -1.0 -1.0\n",
"2 -1.0 -1.0 -1.0 -1.0\n",
"3 4.0 4.0 -1.0 -1.0\n",
"4 5.0 5.0 5.0 -1.0"
]
},
"execution_count": 11,
"metadata": {},
"output_type": "execute_result"
}
],
"source": [
"df >> call('.fillna', -1)"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"Replace all NaN values with the first non-NaN value *above in column*"
]
},
{
"cell_type": "code",
"execution_count": 12,
"metadata": {},
"outputs": [
{
"data": {
"text/html": [
"\n",
"\n",
"
\n",
" \n",
" \n",
" | \n",
" w | \n",
" x | \n",
" y | \n",
" z | \n",
"
\n",
" \n",
" \n",
" \n",
" 0 | \n",
" 1.0 | \n",
" NaN | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 1 | \n",
" 2.0 | \n",
" 2.0 | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 2 | \n",
" 2.0 | \n",
" 2.0 | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 3 | \n",
" 4.0 | \n",
" 4.0 | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 4 | \n",
" 5.0 | \n",
" 5.0 | \n",
" 5.0 | \n",
" NaN | \n",
"
\n",
" \n",
"
\n",
"
"
],
"text/plain": [
" w x y z\n",
"0 1.0 NaN NaN NaN\n",
"1 2.0 2.0 NaN NaN\n",
"2 2.0 2.0 NaN NaN\n",
"3 4.0 4.0 NaN NaN\n",
"4 5.0 5.0 5.0 NaN"
]
},
"execution_count": 12,
"metadata": {},
"output_type": "execute_result"
}
],
"source": [
"df >> call('.fillna', method='ffill')"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"Replace all NaN values with the first non-NaN value *below in column*"
]
},
{
"cell_type": "code",
"execution_count": 13,
"metadata": {},
"outputs": [
{
"data": {
"text/html": [
"\n",
"\n",
"
\n",
" \n",
" \n",
" | \n",
" w | \n",
" x | \n",
" y | \n",
" z | \n",
"
\n",
" \n",
" \n",
" \n",
" 0 | \n",
" 1.0 | \n",
" 2.0 | \n",
" 5.0 | \n",
" NaN | \n",
"
\n",
" \n",
" 1 | \n",
" 2.0 | \n",
" 2.0 | \n",
" 5.0 | \n",
" NaN | \n",
"
\n",
" \n",
" 2 | \n",
" 4.0 | \n",
" 4.0 | \n",
" 5.0 | \n",
" NaN | \n",
"
\n",
" \n",
" 3 | \n",
" 4.0 | \n",
" 4.0 | \n",
" 5.0 | \n",
" NaN | \n",
"
\n",
" \n",
" 4 | \n",
" 5.0 | \n",
" 5.0 | \n",
" 5.0 | \n",
" NaN | \n",
"
\n",
" \n",
"
\n",
"
"
],
"text/plain": [
" w x y z\n",
"0 1.0 2.0 5.0 NaN\n",
"1 2.0 2.0 5.0 NaN\n",
"2 4.0 4.0 5.0 NaN\n",
"3 4.0 4.0 5.0 NaN\n",
"4 5.0 5.0 5.0 NaN"
]
},
"execution_count": 13,
"metadata": {},
"output_type": "execute_result"
}
],
"source": [
"df >> call('.fillna', method='bfill')"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"Replace atmost 2 NaN values with the first non-NaN value *below in column*"
]
},
{
"cell_type": "code",
"execution_count": 14,
"metadata": {},
"outputs": [
{
"data": {
"text/html": [
"\n",
"\n",
"
\n",
" \n",
" \n",
" | \n",
" w | \n",
" x | \n",
" y | \n",
" z | \n",
"
\n",
" \n",
" \n",
" \n",
" 0 | \n",
" 1.0 | \n",
" 2.0 | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 1 | \n",
" 2.0 | \n",
" 2.0 | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 2 | \n",
" 4.0 | \n",
" 4.0 | \n",
" 5.0 | \n",
" NaN | \n",
"
\n",
" \n",
" 3 | \n",
" 4.0 | \n",
" 4.0 | \n",
" 5.0 | \n",
" NaN | \n",
"
\n",
" \n",
" 4 | \n",
" 5.0 | \n",
" 5.0 | \n",
" 5.0 | \n",
" NaN | \n",
"
\n",
" \n",
"
\n",
"
"
],
"text/plain": [
" w x y z\n",
"0 1.0 2.0 NaN NaN\n",
"1 2.0 2.0 NaN NaN\n",
"2 4.0 4.0 5.0 NaN\n",
"3 4.0 4.0 5.0 NaN\n",
"4 5.0 5.0 5.0 NaN"
]
},
"execution_count": 14,
"metadata": {},
"output_type": "execute_result"
}
],
"source": [
"df >> call('.fillna', method='bfill', limit=2)"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"Replace all NaN values with the first non-NaN value to the *left in the row*"
]
},
{
"cell_type": "code",
"execution_count": 15,
"metadata": {},
"outputs": [
{
"data": {
"text/html": [
"\n",
"\n",
"
\n",
" \n",
" \n",
" | \n",
" w | \n",
" x | \n",
" y | \n",
" z | \n",
"
\n",
" \n",
" \n",
" \n",
" 0 | \n",
" 1.0 | \n",
" 1.0 | \n",
" 1.0 | \n",
" 1.0 | \n",
"
\n",
" \n",
" 1 | \n",
" 2.0 | \n",
" 2.0 | \n",
" 2.0 | \n",
" 2.0 | \n",
"
\n",
" \n",
" 2 | \n",
" NaN | \n",
" NaN | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 3 | \n",
" 4.0 | \n",
" 4.0 | \n",
" 4.0 | \n",
" 4.0 | \n",
"
\n",
" \n",
" 4 | \n",
" 5.0 | \n",
" 5.0 | \n",
" 5.0 | \n",
" 5.0 | \n",
"
\n",
" \n",
"
\n",
"
"
],
"text/plain": [
" w x y z\n",
"0 1.0 1.0 1.0 1.0\n",
"1 2.0 2.0 2.0 2.0\n",
"2 NaN NaN NaN NaN\n",
"3 4.0 4.0 4.0 4.0\n",
"4 5.0 5.0 5.0 5.0"
]
},
"execution_count": 15,
"metadata": {},
"output_type": "execute_result"
}
],
"source": [
"df >> call('.fillna', method='ffill', axis=1)"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"Replace all NaN values with the first non-NaN value to the *right in the row*"
]
},
{
"cell_type": "code",
"execution_count": 16,
"metadata": {},
"outputs": [
{
"data": {
"text/html": [
"\n",
"\n",
"
\n",
" \n",
" \n",
" | \n",
" w | \n",
" x | \n",
" y | \n",
" z | \n",
"
\n",
" \n",
" \n",
" \n",
" 0 | \n",
" 1.0 | \n",
" NaN | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 1 | \n",
" 2.0 | \n",
" 2.0 | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 2 | \n",
" NaN | \n",
" NaN | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 3 | \n",
" 4.0 | \n",
" 4.0 | \n",
" NaN | \n",
" NaN | \n",
"
\n",
" \n",
" 4 | \n",
" 5.0 | \n",
" 5.0 | \n",
" 5.0 | \n",
" NaN | \n",
"
\n",
" \n",
"
\n",
"
"
],
"text/plain": [
" w x y z\n",
"0 1.0 NaN NaN NaN\n",
"1 2.0 2.0 NaN NaN\n",
"2 NaN NaN NaN NaN\n",
"3 4.0 4.0 NaN NaN\n",
"4 5.0 5.0 5.0 NaN"
]
},
"execution_count": 16,
"metadata": {},
"output_type": "execute_result"
}
],
"source": [
"df >> call('.fillna', method='bfill', axis=1)"
]
}
],
"metadata": {
"kernelspec": {
"display_name": "Python 3",
"language": "python",
"name": "python3"
},
"language_info": {
"codemirror_mode": {
"name": "ipython",
"version": 3
},
"file_extension": ".py",
"mimetype": "text/x-python",
"name": "python",
"nbconvert_exporter": "python",
"pygments_lexer": "ipython3",
"version": "3.6.1"
},
"toc": {
"colors": {
"hover_highlight": "#DAA520",
"running_highlight": "#FF0000",
"selected_highlight": "#FFD700"
},
"moveMenuLeft": true,
"nav_menu": {
"height": "66px",
"width": "252px"
},
"navigate_menu": true,
"number_sections": true,
"sideBar": true,
"threshold": 4,
"toc_cell": false,
"toc_section_display": "block",
"toc_window_display": false,
"widenNotebook": false
}
},
"nbformat": 4,
"nbformat_minor": 2
}